从周朝开始，匈奴就开始逐步繁盛起来，在冒顿单于（前234---前174年）时期，匈奴达到了鼎盛。冒顿单于首次统一了北方草原，建立起了强大的匈奴帝国。其疆域南起阴山，北抵贝尔加湖，东达辽河，西逾葱岭的广大地区，成为北方最强大的民族。汉高祖刘邦在建立汉朝之后，出兵大漠进击匈奴。结果在白登山被围困，几乎全军覆没。
通过贿赂冒顿单于之妻才得以解脱。之后刘邦意识到匈奴的强大，于是韬光养晦，采取和亲的政策，休养生息。汉初历代帝王都延续了这一政策，对匈奴年年纳贡称臣，屈辱妥协。尽管如此，北方边境还是每年遭受匈奴的侵略，人口被杀，妇女财物被掠夺。元光二年（前133年），汉武帝采纳大行王恢的建议，派遣三十万大军在马邑设伏准备围歼匈奴，不料计谋被识破，计划失败。
但从此开始，汉朝正式对匈奴作战，结束了长期以来屈膝求和的政策。到元狩四年（前119年），汉朝与匈奴多次交战，其中规模较大的关键战役就有三次。汉武帝派遣大将军卫青、骠骑将军霍去病，举历代帝王韬光养晦所积蓄的军力财力，彻底击败匈奴，一雪前耻，汉匈关系开始发生根本的转变。此时的匈奴由于遭受汉朝的沉重打击，势力大大削弱。
同时，匈奴内部贵族为争夺单于位，发生了内讧，进一步衰落。刘秀建武二十四年（公元48年），匈奴正式分裂为南北两部。北匈奴在汉朝以及周边少数民族和南匈奴的联合攻击下，被迫远逃漠北，从此之后彻底失去了对中原地区的威胁。而南匈奴不断南迁，依附中原地区居住，逐步汉化，接受汉朝的管理。至此，匈奴对中原王朝的威胁弱化，北方边塞处于暂时稳定状态。
尽管汉末时期，南匈奴的于夫罗单于，右贤王去卑等不断参与镇压黄巾军和地方诸侯的混战，但整体上处于可控制状态，没有构成对中原的威胁。鲜卑族是原先的东胡部落，被冒顿单于打败后分裂为两部。分别退守到乌桓山和鲜卑山，形成了后来的乌桓族和鲜卑族。北匈奴北逃，南匈奴南迁，空出了大量的地域。此时处于东边的鲜卑趁机进入，占据了其大片的蒙古草原。
对中原王朝也是蠢蠢欲动，伺机入侵中原。但北方的地方诸侯还具备一定的军事实力，为了自己的地盘和利益，他们对北方民族的防范和抵御还是起到了一定的作用。03三国时代，北方民族已不具备入主中原的势力，曹魏政权始终保持对北方民族的绝对控制汉末初期，处在幽州地区的公孙瓒，作为北方最具实力的诸侯，以强硬的态度对抗北方的游牧民族，作战勇敢，屡获战功，始终保持对北方民族的高压态势。
公孙瓒经常与身边数十个善于骑射的部属骑着白马，左右为翼，号称“白马义从”，不断进击鲜卑、乌桓等的侵略，威震幽燕。界桥之战，袁绍击败公孙瓒后，占据了冀、青、并、幽四州，统一了河北地区，进一步保持了对北方民族的控制。曹操战胜袁绍以后，更是采取了一系列的措施，加强对北方民族的管理。建安七年（202年），南匈奴单于呼厨泉跟随袁绍外甥并州刺史高干、河东太守郭援叛乱，曹操派遣司隶校尉钟繇围困呼厨泉于平阳，呼厨泉投降。
曹操又使右贤王去卑诱质呼厨泉于邺城，避免其惑众生乱；让比较顺服的右贤王去卑代行国事。后来又把南匈奴之众分为五部，以削弱其实力，并派遣汉人为其各部司马，以控制匈奴贵族的权力，实行分而治之的政策。在削弱匈奴贵族军政权势的同时，在经济上仍给与优裕的待遇以减弱其对抗情绪。对内迁的匈奴部众，允许他们定居汉地，从事农业经济。
与此同时，对于并州这个胡汉杂居的战略要地，曹操特别注意派遣精干的官吏去治理。如河东太守杜畿，并州刺史梁习等，都是曹操精心挑选的官员，而且都做出了出色的政绩。曹操实施的一系列措施，加强了对匈奴的控制，起到了稳定边塞的效果。建安十二年（207年），曹操为了肃清袁氏残余势力，也为了彻底解决辽西、辽东、右北平三郡乌桓入塞为害的问题，决定远征乌桓，最终彻底平定乌桓，解除了北部边患。
220年，曹操病逝洛阳，曹丕继承爵位，后接受献帝禅让登基为帝。曹丕对外一向主张讨伐，志在实现一统山河。借机征伐东吴的机会，平定了青、徐一带的割据势力，稳固了北方的统一，曹魏势力更加强大。同时派遣镇西将军曹真率部将讨破叛胡治元多、封赏等，平定河西，稳定了西北部边陲。226年曹丕驾崩后，年轻的曹叡在洛阳继位。
