失去附属国北汉，对主持契丹国政的萧皇后来说，可算是一大挫折。
当年辽太宗自开封失意而归，死于途中时，盘踞太原的刘知远趁机南下，占有中原，建立后汉政权。次年，刘知远死，其子继位，但小皇帝主政失误，激起枢密使郭威发动兵变，灭后汉，于951年正月建立了后周政权。同时，留守太原的后汉河东节度使刘崇（刘知远之弟）也在太原称帝，史称北汉。是年六月，后周进攻北汉，地狭民寡的北汉无力支撑，刘崇赶紧向辽称臣求援，愿成辽的属国。于是辽世宗遣使臣册封刘崇为“大汉神武皇帝”，并派兵支持。九月，渡过难关的刘崇派兵攻打后周，辽世宗也想趁机合兵北汉兵马，再次南下争霸。但因察割之变，辽世宗被弑，辽军南下之事作罢，孤掌难鸣的北汉兵马也退回太原。954年，郭威病死，其养子周世宗柴荣继位。北汉便趁后周大丧之际南犯，并邀辽军助拳，欲一举覆灭后周。周世宗率军北上抵御，两军相遇于高平，结果北汉军被击败，来援的辽军不战而退，刘崇狼狈逃回太原。周世宗乘胜直追，围攻太原，但阻击契丹援兵的符彦卿军战败，大将史彦超阵亡。周世宗知灭汉时机尚未成熟，不得已班师。
数年后，周世宗在攻占三关之后驾崩。次年（960年）正月，后周大将赵匡胤篡周自立，是为宋太祖。宋太祖与谋臣定下先南后北的统一方略，战略上对契丹、北汉取守势，而专心于攻灭南方各诸侯割据政权，然后再回兵北上，完成统一天下大业。此时当国的辽穆宗胸无大志，此后称帝的辽景宗因内政尚有隐患，故对宋之策略，除出兵援助北汉，或时而攻扰宋之边境州郡外，也未有大的举动。因此，辽、宋之间处于相对平静状态。不过，曾参与高平之战的宋太祖对北汉竟然凭借太原弹丸之地与己为敌，甚感不爽，故还是前后多次出兵攻击北汉，但终因时机还未成熟，太原城坚地险，民风强悍，加上辽军屡屡遣兵马援助，故始终未能得手。
宋军一伐北汉：968年（宋开宝元年，辽应历十八年）七月，北汉皇帝刘钧（刘崇之子）死，其养子刘继恩继立。刚愎自用的刘继恩，几度欲废黜独揽朝政的宰相郭无为，且又因怯弱无能，让郭无为先下手为强，利用混人北汉内部的宋朝间谍侯霸荣等刺杀刘继恩，然后出面杀死侯霸荣以灭口，再扶立刘钧的另一养子刘继元为北汉皇帝。此后，郭无为依仗自己策立天子的功勋，独断专行，引起了刘继元等人愤恨，北汉内部矛盾进一步激化。宋太祖有见于此，认为有机可乘，便不顾既定的“先南后北”统一战略，临时命令大将李继勋、郭进、曹彬等统领河东诸州精兵，军分东西两路北伐太原，很快攻人北汉境内，败北汉兵于铜锅河，连克北汉外围营寨，直逼太原城下，焚烧了太原城之延夏门。新继位的刘继元大为惊恐，一面拒绝宋人劝降，一面遣使向辽求救。辽穆宗虽沉溺于酗酒、游猎而怠于理政，且北汉与辽朝之间因各种利害冲突而存在着颇深的矛盾，但他也深知北汉一旦被灭，那将使辽、宋之间的力量对比向不利于自己之方向转变，所以在接到北汉求援书后，随即派遣大将耶律述烈率军赴援。宋太祖其实并未做好与辽军作战的准备，只是寄希望于内乱的北汉政权不战而溃，故而久攻太原城不下的李继勋等宋将，在获知辽援兵已迫近的消息后，担心腹背受敌，于十一月仓皇退军。北汉军趁机联合契丹兵马杀人宋境，大掠一番后北还。
宋军二伐北汉：能征惯战的宋太祖颇不甘心首次征伐北汉却无功而还，决计再举。次年969年（宋开宝二年，辽应历十九年）正月，宋太祖诏发军储，命诸路军马进屯河东潞、泽、磁等州。二月，宋太祖下诏亲征太原，遣昭义节度使李继勋等部先赴太原，自己率大军随后跟进。鉴于去年未防备辽军赴援而失败的教训，宋太祖预先做了部署，命河北方面宋军严防契丹骑兵乘虚攻扰河北诸州，以威胁宋军主力的侧后，同时任命将领何继筠为石岭关部署，屯兵险要的战略要地石岭关（今山西阳曲东北），以阻击自燕京方向来援的辽兵。但人算不如天算，考虑周详且势在必得的宋太祖，却未曾料到天气会跟自己过不去+当宋军主力进至潞州一带时，却遇到了连绵阴雨，整整耽搁了十八天。到三月中，宋太祖抵达太原城下，筑长围，立连珠寨，四面围攻时，北汉人的守城准备已大体完成。四月，刚刚继承了皇位的辽景宗，虽然首选任务是稳定内政，但得悉北汉的求救要求以后，还是命令燕京地区的辽军兵分两路：一路杀向河北定州，被宋军击退-另一路自石岭关人援太原，但遭到了宋将何继筠的阻击，辽将王彦符等百余人和战马*〇〇余匹被俘，阵亡上千人。当时北汉所凭恃坚守而不降者，一为城坚，二为辽援，所以宋太祖命令宋军引汾水灌城，并将斩获的辽人首级等陈列在太原城下，北汉军民见之“气夺”，但依旧顽强守御。北汉骁将刘继业（即杨业）屡次率兵夤夜出城攻击宋寨，虽都被杀退，却迟缓了宋军的攻势。不久，在河水的多日漫灌和浸泡之下，太原南城一段城墙崩塌，宋军驾小船蜂拥而上，强攻城墙缺口，不料处于绝望中的北汉守军格外顽强，抵死相抗，设法堵好缺口，击退了宋军的强攻，宋军石汉卿、王廷义等悍将战死。宋太祖大为震怒，亲督诸军围攻更急。但经历了四个多月的苦战，宋军的攻势实际已成强弩之末，而天又暑雨，驻兵于潮湿草地之中的宋军士兵多得病，痢疾流行，士气低落。此时，辽北院大王乌珍又率第二批援兵突破宋军的阻击，赶到太原城西，对攻城的宋军形成很大的威胁，并大大鼓舞了太原城中北汉军的士气。无计可施的宋太祖只得听从谋臣的班师建议，宋军再次无功而返。此后，宋太祖又一次掉兵南向，转回到了“先南后北”的既定方略上来。本已穷困已极的北汉，因获得了宋军匆忙撤退时遗弃的大量军资，而“赖此少济”，但终究元气大伤，再也不能对宋朝形成实质性的威胁。
宋军三伐北汉：976年（宋开宝九年，辽保宁八年）八月，在已平定南方后蜀、南汉、南唐等割据政权之后，宋太祖又一次将目光转回了小小的太原城，命令战将党进、潘美、杨光义等分兵五路进攻太原，又以郭进等攻忻、汾、代、沁、辽、石等太原外围诸州，以孤立太原城。九月，宋军各路兵马进展顺利，所向皆克，党进所率宋军主力进抵太原城下。北汉兵将龟缩城内不出，不断遣大臣急赴契丹告急，辽将南府宰相耶律沙、冀王耶律敌烈等衔命统兵出援。大概这时老天还无绝北汉之意，所以在形势发展对宋军大为有利之际，宋太祖却于“斧声烛影”这一千古疑案中神秘去世，继位的宋太宗下令班师，宋军不得不再次承受无功而返之痛。
979年（宋太平兴国四年，辽乾亨元年#宋军第四次进伐太原，终于灭了那早已成为宋朝眼中钉的北汉割据政权。
辽景宗此时正进行内部改革，以稳固其统治，故对宋采取防御战略，与宋互遣使臣通好，并且训令附属国北汉也不得随意惹是生非，以免激怒宋朝，从而维持边境现状。新继位的宋太宗在初步稳定了政局，并以政治压力迫使两个已经臣服于宋的小割据势力吴越献地、漳泉纳土，完全统一南方之后，决意通过灭亡北汉、收复燕云失地等举动，来建立起超越宋太祖的不世之勋。鉴于以往三次北攻太原却无功而返的教训，宋太宗进行了充分的战前准备，集合群臣讨论用兵方略。枢密使曹彬分析了周世宗、宋太祖多次围攻太原而未成功的原因，认为+“周世宗时，偏将史超败于石岭关，人情震恐，故而班师而还。而宋太祖因顿兵于甘草地中，军人多被腹疾，因是退兵。并非是太原城垒不可接近也。”建议宋太宗进攻太原必定取得成功+“国家兵甲精锐，人心欣戴，若行吊伐，如摧枯拉朽耳。”虽然宰相薛居正不同意出兵，认为北汉有固守之志，并有契丹之援，且今日已穷困不堪，“得之不足以辟土，舍之不足以为患”，不过这意见并未得到宋太宗的首肯。这时，闻知宋军欲再次征伐北汉的辽景宗赶忙派遣使臣来到宋都开封，责问宋朝为何对北汉用兵，宋人答道+“河东逆命，所当问罪，如若北朝不援，则南北和约如故-不然，惟有战耳！”话虽说得如此气冲斗牛，过足了嘴瘾，但宋廷并未真正做好与辽军全面开战的准备，只是将重点放到攻克太原城上。
宋太宗对进攻太原做了详细部署：以宣徽南院使潘美为主将，节度使崔彦进、李汉琼、刘遇和观察使曹翰等四员猛将分别负责太原城四面的攻击，以经验丰富的大将郭进为石岭关都部署，阻击契丹援兵，并安排专人负责攻城器械及后勤补给等-同时部署了扈从行营的将士，于二月间亲自领兵北伐太原。
与当年宋太祖兵出开封，进人晋东南后北上太原之行军路线不同，宋太宗却是东北出开封，取道河北澶州（今河南濮阳#镇州，向西翻越太行山，来到太原城下。宋太宗取如此路线浩浩荡荡行军，实有向契丹示威的用意在内，即希望辽朝能知难而退，不要派军救援北汉，给自己作战添麻烦。
面对宋人如此小动作，辽廷是何想法，史无明文记载，不过忙于安内的辽廷没有作出激烈反应，仅是派遣南府宰相耶律沙为都统、冀王耶律敌烈为监军，统领援军自燕京去太原，并命南院大王耶律斜轸率领本部将士为后军接应，枢密副使抹只为督军一同前往-随后又让左千牛大将军韩悖、大同军节度使耶律善补率本部兵马自大同地区南下增援。从辽廷所遣援军的规模、领军将帅等情况上可以看出，辽景宗、萧皇后对于此次宋军攻灭北汉之决心和其所具之军力明显低估了，可能依旧认为宋军这次北伐作战，将和以前数次围攻太原之战一样，有始无终，铩羽而归，所以未引起足够的重视。而且宋太宗取道河北进兵太原的举动，也诱使辽廷将更多的注意力放到了燕京一带，诏令北院大王奚底、乙室大王撒合等各统本部军马戍守燕京地区。
三月，宋军按部就班地攻击太原外围的北汉军寨，辽军援兵也按计划向太原进发，来到了宋军重兵守备的白马岭。此时，前有大涧阻隔，宋郭进之军已在对岸列阵以待，辽军主将耶律沙打算等待后军到来后再一起攻击，但自恃贵显的冀王敌烈（辽太宗之子）与耶律抹只却根本未把宋军放在眼里，认为“急击之便”，耶律沙苦劝不听。敌烈等率先锋兵马横渡涧水，无奈的耶律沙只得挥军跟进。果然至辽军半渡之际，宋将郭进瞅准机会，率领精兵猛烈出击，战斗异常激烈，辽军不支而溃，敌烈及其儿子哇哥、耶律沙之子德里、突吕不部节度使都敏、黄皮室详稳唐筈等五员战将阵亡，士卒死伤无数。耶律沙与抹只也被困阵中，多亏后军耶律斜轸率军杀到，用万张强弓齐射迫退宋军，才“仅以身免”。白马岭之战，是辽军在与宋军作战中第一次大惨败。此后，北汉不断向辽告急，但新遭大败的辽军无力于短时间内再出援兵，由此在太原战场上，宋军完全控制了局面。《辽史•耶律沙传》称耶律沙在获救以后，还想率领余卒及耶律斜轸的后军进向太原，只是路遇北汉驸马都尉卢俊说太原已经陷落，方才勒兵而还，恐怕只是一句自饰战败的门面之语。因为据史载，太原城陷落在白马岭之战后一个多月，如耶律沙真欲增援，怎会至此时仍然在契丹境内？
四月，宋军陆续攻下太原外围州县，太原成了一座孤城。抵达前线的宋太宗至城下营寨内慰劳诸将，督诸军连续攻城，并出手诏向北汉主刘继元劝降。刘继元还在坚守，等待辽军来援，但手下大臣、将士却已丧失了守城信心，不断翻城出来归降。至五月五日，势穷无援的刘继元无力再支撑下去，便上表投降，北汉灭亡。宋太宗依惯例对投降的北汉君臣施行赦罪封赏，以刘继元为右卫上将军，封彭城郡公-此外，宋太宗为消灭太原的“王气”而尽迁其居民，焚其城，改为平晋县，而以榆次县为新并州之治所。至此，前后历经四次的宋军平北汉之战终于修得正果。
北汉被灭，也是辽、宋力量对比变化之必然结果。自辽太祖建国以来，尤其是辽太宗占据燕云十六州以来，契丹在与中原政府作战中，凭借铁骑纵横，一向占据着主动地位。但此后辽朝内乱相继不绝，国势中衰，虽然辽景宗即位以后，全力稳定内政，发展经济，使得其国力有所恢复。但统治中原地区的宋朝政权，通过“先南后北”的战略决策，结束了南方自晚唐、五代以来军阀割据、政局动荡、生灵涂炭、民不聊生的乱局，经济、人口等方面也大为发展，此消彼长，使得宋朝军力大增，在一定程度上已凌驾辽军之上。同时，晋北地区岭险壑深，并不利于骑军驰骋，再加上宋军有备而来，辽将轻慢无备，作战大败、丢失北汉也就自在意料之中了。不过，福兮祸所伏，宋太宗于轻取太原后，得意忘形，轻举妄动，欲凭借大胜之余威而一举收复燕云失地，结果随即在燕京城下，遭到了契丹骑兵的迎头痛击，惨败而归。
不过，丢失北汉，使得辽朝在云州一带失去了缓冲地区，而直接面临宋军的冲击，宋军可兵出河北、河东两路北逼燕云地区，给辽朝在燕云地区的统治带来严重的威胁。