公91年东汉大军击溃北匈奴主力后，匈奴人已经开始向西转移，而此时汉朝将领耿夔在阿尔泰山附近与北匈奴单于遭遇，双方经过激战，匈奴人再次大败，于是在北单于的率领下大规模的西迁。《后汉书》记载，此后“单于震慑屏气，蒙毡遁走于乌孙之地”。也就是匈奴人被打怕了，决定离开漠北草原，越过阿尔泰山进入伊犁河流域，这里是汉代乌孙国的地方，乌孙本来就是游牧民族，所以匈奴到了这里，很快就适应了下来。
据《魏书》记载，匈奴人在乌孙故地一度建立起强大的“悦般国”。该国“地方数千里，众可二十万”，在西域算是一个非常强劲的大国。匈奴在乌孙故地停留了可能相当长的时间，后来因为遭到新的不知名的威胁，一些精壮人员在单于率领下离开乌孙故地，继续向西迁移，抵达“康居”。康居是位今中亚哈萨克斯坦东南、锡尔河流域的一个古国。
到达康居以后，匈奴人的情况在历史就不清楚，因为这里离中国很远，离罗马也很远，处在两大文明帝国的边缘地带，匈奴的事情就没有人记载了。一直到公元290年，也就是匈奴离开漠北草原西迁200年后，关于匈奴人的消息才出现在罗马人的著作中，书中说在高加索的亚美尼亚军队中有匈奴雇佣兵团。这时匈奴人已经在阿兰聊国（Alani）活动。
阿兰聊国位于今顿河以东的俄罗斯南部草原，显然，有一部分匈奴人已经在不知道什么时候从康居西迁到了南俄草原。匈奴人达到阿兰聊国后，最开始可能和阿兰聊人混处在一起，因为这一带仍然是“草原”，游牧为生，并没有很强的地盘意识。不过，双方相处一段时间后，可以起了冲突，最终匈奴人“杀其王而有其国”（《魏书》），并迫使阿兰人加入匈奴人的队伍（罗马史学家阿密阿那斯著《历史》）。
匈奴人在阿兰人地区大概生活了100年，到374年时，匈奴人开始进一步的西迁，渡过顿河，与当时的东哥特王国相遇，至此才开启了匈奴人在欧洲的征服史。二、其实罗马帝国是被欧洲的那些被罗马人称之为蛮族的东欧和北欧的游牧部族消灭的，匈奴人的西迁，驱赶了大量的欧洲蛮族的西进逃亡，促成了蛮族跟罗马帝国的混战，严重削弱了罗马帝国的统治力量。
374年，匈奴人在首领巴兰勃（Balember）的率领下渡过顿河，第一次出现在欧洲人面前，当时顿河以西居住的“东哥特人”，东哥特人被匈奴人打得大败，东哥特人被匈奴人打败的消息传到西方，引起人们的恐慌，罗马史家阿密阿那斯在《历史》中说，强大的东哥特人被一群从来没见过的人（匈奴人），如高山上的暴风雪般地聚然来是临，然后见到人就杀，见东西就抢，东哥特人乱成一片，国王赫曼拉克（Hermanrik）根本不敢组织军队继续作战，直接自杀了，他的儿子领领残部投降了匈奴人。
匈奴人在东欧可谓一战成名。匈奴人击溃东哥特人，继续向西进兵，攻打西哥特人，西哥特人在边境的德聂斯德河构筑了坚固的防线，但匈奴人采取运动战，并不去攻打西哥特人的防线，而是绕道德聂斯德河上游渡河，然后从背后包抄西哥特军队，结果西哥特军队大败，死伤无数。一部分西哥特人大约20万人渡过多瑙河进入罗马帝国的东部边境避难。
此后，西哥特人和东哥特人都离开故土，进入罗马帝国的东部边境暂住下来。哥特人在罗马帝国东部边境住下来后，由于是逃难而来的，罗马帝国的官员经常欺负他们，结果导致了哥特人在巴尔干半岛的叛乱。哥特人叛军掠夺了色雷斯和马其顿，罗马皇帝法伦斯（Valens）调集帝国的精兵，亲自前去镇压，结果被匈奴人打得头破血流的哥特人，打起罗马帝国来，却是绰绰有余，哥特人简直是吊打罗马人，罗马精锐军团被歼灭了三分之二，罗马皇帝法伦斯也战死了。
罗马帝国战败后，在382年与哥特人妥协，签订了和约，罗马帝国把匈牙利和多瑙河流域的一些地方赐予哥特人居住，哥特人正式在罗马帝国的境内住了下来。罗马人还没跟匈奴人交上手，就已经被匈奴人的手下败将哥特人给收拾了。此后不久，罗马帝国分裂为东、西两个帝国，更加衰落。真正摧毁罗马帝国的，其实是以西哥特人为代表的欧洲蛮族。
西哥特人在罗马帝国的东部边境住下来后，原来生活在这里的凡达尔人、瑞维人被迫西迁，向罗马帝国的高卢地区（今法国一带）迁移，罗马帝国调集重兵阻击他们，最后凡达尔人、瑞维人在409年左右越过比利牛斯山，进入西政牙半岛，击溃西班牙的罗马军队，控制了西班牙。罗马帝失去了对西班牙的统治。同时，由于匈奴人继续向西迁移，大约在公元400年左右，匈奴人已经大规模地进入多瑙河流域，引起西哥特人的恐慌，西哥特人觉得罗马帝国东部的多瑙河流域也不安全，他们发现打不赢匈奴人，但是收拾罗马军队还是很轻松，于是开始大规模的西迁，进入意大利半岛，并在410年一度攻入罗马城。
