但是，匈奴威胁依旧存在，公元前126年夏，数万骑兵攻代，杀郡守，掳走千多人。秋季又入侵雁门，烧杀掳掠一番，造成了重大破坏。接着，第二年又三路大军共同出击，分别强攻进入代郡、定襄、上郡多地，一时之间边关再次陷入烽火。
公元前124春，车骑将军卫青率领三万骑兵，从朔方出兵；又命令大行李息、岸头侯张次公为，从右北平出兵。卫青大军面对的正是匈奴主力右贤王。为了出其不意，卫青的主力部队隐藏行迹，悄然出击，利用匈奴军疏忽，趁夜晚包围了右贤王的部队，杀了敌人一个措手不及，结果右贤王只带了几百个精骑突围逃走，其余被俘虏的男女将近两万人，牲畜数百万头。
得到捷报的汉武帝龙颜大悦，专门派出信使赴营中封赏，拜卫青为大将军，加封食邑6000户；其三个儿子同时被封为列侯；随从卫青作战的部将公孙敖、韩说、公孙贺、赵不虞、公孙戎奴、豆如意等人也各有升迁封赏。
公元前123年二月，卫青统兵十万，以公孙敖为中将军，公孙贺为左将军，赵信为前将军，苏建为右将军，李广为后将军，李沮为强弩将军，分领六路大军，浩浩荡荡，从定襄出发，北进数百里。又派校尉霍去病独自领千名骑兵，深入大漠，寻机打击敌人。霍去病不负众望，斩敌无数，并杀匈奴单于祖父，生俘单于的国相及叔叔，后被汉武帝封为冠军侯。战后全军返回定襄休整一月之后再次出塞，杀了敌人一个措手不及，斩获匈奴军万余，使之闻风丧胆，开始远遁。因为校尉张骞跟随立功，也被封为博望侯。
公元前119年春天，卫青与外甥霍去病各率领五万精兵，后勤保障的步兵和运输物资的军队十万余人，规模浩大，杀向漠北。卫青大军出塞千余里，遭遇匈奴单于主力，双方随即展开会战，战至傍晚，因为突然大风，沙石飞扬，对面不清，出现了一场混战。战至晚上，匈奴单于胆怯，带领亲兵杀出重围远遁而去，致使部下失去了耐心，结果被打散。
得知单于远遁，卫青急忙派出轻骑追击，主力在歼灭敌人之后，也开始了追击行动，一直杀到赵信城，获得匈奴积存的大量食品，积存的物资等等，除了供应部队食用之外，其余全部焚毁。
此役汉军重创了匈奴在漠南的势力，致使其长期无力南下侵扰，以至于后来逐渐向西迁移。汉武帝为表彰卫青、霍去病，加封为大司马，管理日常的军事行政事务，代行太尉职责，信任有加。
不仅如此，当卫青病逝之后，汉武帝为表彰其战功，专诏命令在茂陵东北修建了一座阴山形状的墓冢，定谥号为“烈”，取“以武立功，秉德尊业曰烈”之意。
霍去病是卫青的外甥，自幼善骑射，长期跟随卫青征战，大器早成。用兵灵活，注重方略，不拘古法，勇猛果断，善于长途奔袭、闪电战和大迂回、大穿插作战。最为让人赞叹的是首战即率领不足千骑深入敌人腹地数百里，杀得匈奴兵大惊失色，四散而逃。又在两次河西之战中，大破匈奴，直取祁连山；在漠北之战中，霍去病封狼居胥，大捷而归。
可惜的是，回军之后不久，公元前117年霍去病因病去世，年仅二十三岁。汉武帝为此大是悲伤，调遣了数郡的铁甲军，从京师长安到茂陵排列成阵，为其发丧。给霍去病修的坟墓外形象祈连山，又按照谥法，把勇武与扩地两个含义的词汇加以合并，为霍去病定谥号为景桓侯。
终其一生，汉武帝都没有停止扩疆固土，当漠南匈奴解决之后，又对西北地区展开了一系列军事和政治行动。先后在凉州、甘州、肃州等地设置了武威、张掖、酒泉、敦煌等郡，以及一些重要的军事要塞，一是保证丝绸之路畅通，同时也为了防范匈奴族死灰复燃，重新袭扰。
接下来又主动出击，派将军赵破奴向西北地区进军，大败楼兰国和车师国。他监禁楼兰王，并打败车师王。几年之后，因为为大宛国杀死汉朝使臣，汉武帝大怒，即可派出大将军李广利率兵往讨，最终攻克大宛都城，诛杀大宛王毋寡，并另立国王，自此之后大宛臣服汉朝，双方建立了良好关系，并且为汉朝提供了大量著名优质的大宛马。
并非所有对于匈奴的攻击都是顺利的，比如武帝末年，飞将军李广之孙李陵对匈奴发动的一次进攻，就是全军覆没，最后投降。说起来李陵的故事有些悲戚，当时，作为李广利的偏师，李陵的数千人马被匈奴三万铁骑包围，开始的交战中，“陵搏战攻之，千弩俱发，应弦而倒。虏还走上山，汉军追击，杀数千人。单于大惊，召左右地兵八万馀骑攻陵。陵且战且引，南行数日，抵山谷中”。
由于连续作战，陵军多有伤亡，而且是疲惫不堪，但士气仍然高涨。第二天匈奴大军围困上来，又被李陵军队杀敌三千多人，且战且退，等待援军。“南行至山下，单于在南山上，使其子将骑击陵。陵军步斗树木间，复杀数千人。因发连弩射单于，单于下走。”
面对如此强劲英武的对手，不知对方虚实匈奴军眼看着李陵军队已经退守汉朝边塞附近，担心中了对方诱敌之计，准备撤围而退。没想到，李陵军中一个小军官因为受到校尉辱骂，一怒之下投降了匈奴军队，暴露了李陵军弹尽粮绝，孤军无援的危局，匈奴单于马上展开进攻，最后全歼李陵部属，李陵自己也被迫投降。
公元前77年，楼兰王被杀之后，楼兰国屈从于匈奴，起来反对汉朝统治，汉政府采取所示迁民屯垦，派兵固守，在汉宣帝时期塔里木盆地的扩张取得了决定性的成功。尤其是到了公元前60年，汉将郑吉在焉耆南的渠犁建立了重要军事基地，又亲自率兵驻扎在焉耆和库车之间的乌垒，有效掌控了整个塔里木地区。
而此时的匈奴族却被一系列内战削弱，主要原因时匈奴的两位单于嫡系呼韩邪和郅支都想称王，获得单于称号。最后聪明的呼韩邪寻求汉王室的庇护，亲身来到长安表示归顺。也因此，在汉朝支持之下，他战胜了自己的对手，牢牢控制了鄂尔浑河营地。不久之后，又娶了汉庭公主为妻，暂时安定下来。与之相反，郅支单于却仍旧坚持与汉朝为敌，在多次进攻失败之后，一路西进，倒是顺利地攻取了咸海周边地区，一时称雄于中亚地区。
好景不长，曾经发出过“明犯汉朝者，虽远必诛”豪言的校尉陈汤于公元前三十六年长距离远袭，直达楚河河畔，砍掉了郅支的脑袋。
东汉初年，匈奴再次分裂，南匈奴归顺汉朝，北匈奴则与汉朝为敌，经常发动对南匈奴和汉人的袭掠。汉明帝时，派出多路汉军出击北匈奴，尤其窦固、耿忠等将领，率领部队一直打到天山一带，夺取了伊吾（今哈密）等地区。公元89年，窦宪等人又率领大军大败北匈奴，一直追击到燕然山（杭爱山）下，重创了匈奴军队。
公元91年，汉军再次调集大军出击北匈奴，在金微山（阿尔泰山）大败北匈奴，北匈奴单于只得率领残部向西逃窜，不仅丢失了侵略的漠南地，即便是漠北地区都不敢立足，只好开始向西部地区展开了进攻，寻找新的立足之地。
期间，首先遭到向西流窜的北匈奴残部攻击的，是盘踞伊犁河流域的乌孙国。立足后，出没于天山南北，袭击掠夺，严重威胁着丝绸之路，以及汉室西部。西域长史班勇于公元124年、126年两次大规模出兵，击败北匈奴，逐渐稳定了西域的局势。班勇之后，汉将斐岑于137年率军击毙了北匈奴呼衍王。公元151年，汉将司马达率军出击蒲类，再次重创北匈奴新的呼衍王，无奈之下，呼衍王率领部属继续西逃，驻足在锡尔河流域。
其后的几百年时间里，匈奴族西迁势力不断征战，大约在公元290年左右，彻底征服了阿兰国。不几年之后，靠着阿兰国，得到休养生息，在公元374年，匈奴在大单于巴兰姆伯尔率大军渡过顿河，向东哥特人发动了进攻，又尾随失败的东哥特其后，追击到西哥特人居住地德涅斯特河（乌克兰）流域，西哥特人惨败之后，只得向西逃窜至多瑙河，经过罗马帝国皇帝的批准，得以渡过多瑙河，进入罗马帝国境内避难。而此时的匈奴，由于占据了南俄罗斯地区辽阔的区域，暂时稳定了下来，人口也开始急剧增加，势力重新暴涨。
395年，罗马帝国分裂为东西罗马，而此时匈奴大单于，极富野心的乌尔丁开始了大规模西侵，很快夺取了整个多瑙河盆地，并攻入了意大利。趁此机会，饱受罗马帝国压榨的西哥特人攻陷了西罗马帝国的首都罗马。然而乌尔丁却是在408年，率军袭扰东罗马帝国，掠夺大量财物之后，遭到了罗马军队的袭击，而战死在沙场。
乌尔丁死后，在奥克塔尔大单于率领下，匈奴帝国又开始兴盛起来，尤其是他的兄弟卢加继位之后，先后于公元422年、426年两次出兵东罗马帝国的色雷斯和马其顿，逼迫东罗马帝国皇帝向匈奴帝国进贡，开放互市。