等到匈奴崛起后，才发现自己的前辈真是瞎了眼！这么一个既适合耕种，又适合放牧的风水宝地居然不去占。于是匈奴的冒顿单于连续攻打霸占河西走廊的月氏人，并且还杀掉了月氏王，用他的头骨当做酒器。月氏人不敌匈奴，便放弃了河西走廊，转到中亚建立了贵霜王朝。匈奴人占据河西走廊后，瞬间就发达了。因为河西走廊这块地，在当时确实是宝地。
除了能够出产丰富的物产之外（相比于贫瘠的漠北草原），它的战略价值也极其重要。是什么战略价值呢？主要有三点：第一、可以对掐断汉朝和西域的沟通，使二者不能形成合力，威胁匈奴的霸权；第二、匈奴可以从河西走廊翻越祁连山而到达羌人的游牧地区，控制青藏高原；第三、匈奴占据的河套、河西地区对汉朝威胁很大，可以对关中地区实行夹攻。
早期的西汉，被匈奴人的这种攻势战略给祸害的够呛。除了刘邦的白登之围外，汉景帝后元三年（公元前141 年），匈奴军突袭关中，一把火烧了汉皇室的甘泉宫，这也是汉朝历史上的奇耻大辱。据说当时还是太子的汉武帝刘彻听闻此事后，彻夜未眠，从此立下大志：吾生必报此奇耻大辱！汉武帝建元二年（公元前 139年），刚刚登基仅两年的汉武帝派遣张骞出使西域，寻求与匈奴有血海深仇的月氏人的帮忙。
岂不料张骞一行人西行进入河西走廊后，这一当年还是月氏人的地区，现已完全为匈奴人所控制。正当张骞一行匆匆穿过河西走廊时，不幸碰上匈奴的骑兵队，使者团一百多人全部被抓获。直到十三年后，张骞才回到汉朝。汉武帝元光六年（公元前129 年），也就是张骞出使西域十年后，等不回张骞的汉武帝决定不再等了。他遣代车骑将军卫青出上谷，骑将军公孙敖出代郡，轻车将军公孙贺出云中，骁骑将军李广出雁门。
四路大军齐发，展开了对匈奴的反击，拉开了长达四十四年的汉匈大战的大幕。经过八年血战，汉军基本清除了北面和河套地区的匈奴势力，于是汉武帝的目光转到了匈奴人的另一核心区域——河西走廊。元狩二年（公元前121 年），汉武帝任命年仅十九岁的霍去病为骠骑将军，率军突袭匈奴人控制的河西走廊。霍去病一年内两次出击，先后击垮了匈奴人的浑邪王、休屠王部，歼敌四万余人，俘虏了包括五名匈奴王、王母在内的一百多名匈奴高级贵族。
向来骄横惯了的匈奴人被打懵逼了，从没见过如此神出鬼没的军队啊！匈奴浑邪王估计是被打怕了，决定脱离匈奴本部，率四万部众向汉朝归顺。于是汉朝在河西走廊设置了武威、张掖、酒泉、敦煌四郡，实行行政化管理。从此汉朝控制了河西地区，为后来打通西域道路奠定基础。而匈奴人则只能为此悲歌：“失我祁连山，使我六畜不蕃息；失我焉支山，使我嫁妇无颜色”。
