宋太祖花了十三年工夫，灭了南方五国，接着，就出兵攻打北汉都城太原。北汉请辽朝出兵援助，宋军吃了败仗。不久，宋太祖也得病死去，他的弟弟赵匡义继承皇位，这就是宋太宗。
宋太宗决心完成统一北方的事业，公元９７９年，他亲自率领四路大军围攻北汉都城太原。辽军又来援助，宋太宗派兵截断援兵要道。太原城在宋军重重包围之中，外无援兵，内无粮草。北汉国主刘继元没法，只好投降。刘继元手下有一名老将杨业，也归附宋朝。宋太宗早就听说杨业武艺高强，十分器重他，任命他做大将。
宋太宗灭了北汉，想乘胜攻打辽朝，收复北方失地。宋军攻势凌厉，北方有几个州的辽朝守将纷纷投降。宋军一直打到幽州（今北京市）。后来，辽朝派大将耶律休哥救援。双方在高梁河（今北京市城西）打上一仗，宋兵大败，宋太宗乘了一辆驴车，逃回东京。
打那以后，辽军不断袭击宋朝边境。宋太宗十分担心，就派杨业为代州刺史，扼守雁门关。
公元９８０年，辽朝派了十万大军攻打雁门关。那时候，杨业手下只有几千人马，兵力相差很大。杨业是个有经验的老将，知道靠硬拼是不行的，就把大部分人马留在代州，自己带领几百名骑兵，悄悄地从小路绕到雁门关北面敌人后方。
辽兵向南进军，一路上没遇到抵抗，正在得意。忽然，后面响起一片喊杀声，只见烟尘滚滚，一支骑兵从背后杀来，像猛虎冲进羊群一样，乱砍猛杀。辽兵毫无防备，又弄不清后面来了多少人马，个个心惊胆战，阵容大乱，哪儿还抵挡得了，纷纷向北逃窜。杨业带兵追赶上去，杀伤大批辽兵，还杀死了一名辽朝贵族，活捉了一员辽将。
雁门关大捷以后，杨业威名远扬。辽兵一看到“杨”字旗号，就吓得不敢交锋。人们给杨业起了个外号，叫做“杨无敌”。
杨业立下大功，也引起一些边防将领的妒忌。有人给宋太宗上奏章，说了杨业许多坏话。宋太宗正要依靠杨业，不理睬那些诬告，把那些奏章封好了，派人送给杨业。杨业见宋太宗这样信任他，自然十分感动。
过了几年，辽景宗耶律贤死去，即位的辽圣宗耶律隆绪才十二岁，由他的母亲萧太后执政。有个边将向宋太宗上奏章，认为辽朝政局变动，正好趁这个机会收复燕云十六州失地。宋太宗接受了这个意见。公元９８６年，宋太宗派出曹彬、田重进、潘美率领三路大军北伐，并且派杨业做潘美的副将。
三路大军分路进攻，旗开得胜。潘美、杨业的一路人马出了雁门关，很快就收复了四个州。但是曹彬率领的主力因为孤军深入，后来被辽军杀得大败。宋太宗赶快命令各路宋军撤退。
潘美、杨业接到命令，就领兵掩护四个州的百姓撤退到狼牙村。那时候，辽军已经占领寰州（今山西朔县东，寰音ｈｕáｎ），兵势很猛。杨业建议派兵佯攻，吸引住辽军主力，并且派精兵埋伏在退路的要道，掩护军民撤退。
监军王侁（音ｓｈēｎ）反对杨业的意见，说：“我们带了几万精兵，还怕他们？我看我们只管沿着雁门大路，大张旗鼓地行军，也好让敌人见了害怕。”
杨业说：“现在敌强我弱，这样干一定要失败。”
王侁带着嘲笑的口吻说：“杨将军不是号称无敌吗？现在在敌人面前畏缩不战，是不是另有打算？”
这一句话把杨业激怒了。他说：“我并不是怕死，只是看到现在时机不利，怕让兵士们白白丧命。你们一定要打，我可以打头阵。”
主将潘美也支持王侁的主张。杨业无可奈何，只好带领手下人马出发了。临走的时候，他流着眼泪对潘美说：“这个仗肯定要失败。我本来想看准时机，痛击敌人，报答国家。现在大家责备我避敌，我不得不先死。”
接着，他指着前面的陈家峪（今山西朔县南，峪音ｙù）对潘美说：“希望你们在这个谷口两侧，埋伏好步兵和弓弩手。我兵败之后，退到这里，你们带兵接应，两面夹击，也许有转败为胜的希望。”
杨业出兵没有多远，果然遭到辽军的伏击。杨业虽然英勇，但是辽兵像潮水一样涌上来。杨业拼杀了一阵，抵挡不住，只好一边打一边后退，把辽军引向陈家峪。
到了陈家峪，正是太阳下山的时候。杨业退到谷口，只见两边静悄悄，连宋军的影儿都没有。潘美带领的主力到哪儿去了呢？原来杨业走了以后，潘美也曾经把人马带到陈家峪。等了一天，听不到杨业的消息，王侁认为一定是辽兵退了。他怕让杨业抢了头功，催促潘美把伏兵撤去，离开了陈家峪；等到他们听到杨业兵败，又往另外一条小道逃跑了。
杨业见约定的地点没人接应，气得直跺脚，只好带领部下转身跟追上来的辽兵展开搏斗，兵士们个个奋勇抵抗。但是辽军越来越多，到了后来，杨业身边只有一百多个兵士他含着泪，高声向兵士说：“你们都有自己的父母家小，不要跟我一起死在这里，赶快突围出去，也好让朝廷得知我们的情况。”
兵士们听了这些话，再看看杨业浴血奋战的情景，感动得都流下热泪，没有一个愿意离开杨业。最后，兵士都战死了，杨业的儿子杨延玉和部将王贵也牺牲了。杨业身上受了十几处伤，浑身是血，还来回冲杀，杀伤了几百名敌人。不料一支箭飞来，正射中他的战马，马倒在地下，把他摔了下来。辽兵乘机围了上来，把他俘虏了。
杨业被俘以后，辽将劝他投降。他抬起头叹了口气说：“我杨业本来想消灭敌人，报答国家。没想到被奸臣陷害，落得全军覆没。哪还有脸活在世上呢？”他在辽营里，绝食了三天三夜，就牺牲了。
杨业战死的消息传到东京，朝廷上下都为他哀痛叹息。宋太宗丧失了一名勇将，自然也感到难过，把潘美降职处分，王侁革职查办。
杨业死后，他的后代继承他父亲的事业，儿子杨延昭、孙子杨文广在保卫宋朝边境的战争中都立了功。他们一家的英勇事迹受到人们的传诵和赞美，民间流传的杨家将故事，就是根据他们的事迹发展起来的。