汉大将军窦宪因居功自傲，被汉和帝诛杀。公元93年，于除革建单于听说此信即决定率部下叛离汉朝，向北逃窜。汉王朝命长史王辅、中郎将任尚共同率精锐骑追击于除革建部。追击上之后，双方展开一场大战，于除革建被杀，其部众均为汉军歼灭。
北单于兵败金微山后，向西北逃至乌孙国，占领一地为其大本营。公元119年，北匈奴军攻占伊吾(今新疆哈密县)，杀死汉将索班。公元124年，汉朝西域长史班勇率龟兹等国兵马，在伊和谷(今新疆腾格里山)地区打败北匈奴伊蠡王。公元126年，班勇率西域诸国军队攻击北匈奴呼衍王部，呼衍王兵败逃走，其部众20 000多人投降汉军。北匈奴单于亲率10 000多骑兵前来救援攻入车师后部，到达金且谷。班勇派假司马曹俊率兵前去增援，北单于见汉军到，率军队撤退，曹俊率军队追击，杀死北匈奴贵人骨都侯。在这之后，呼衍王部便迁居枯梧河上。公元134年，汉朝车师后部司马率车师军队进攻吾阝击谷(今新疆博格达山地区)的北匈奴军，杀死几百名匈奴人。第二年，北匈奴呼衍王率军报仇，杀入车师后部。公元137年，汉朝敦煌太守斐岑率军队进击呼衍王所部，在巴里坤(今新疆巴里坤哈萨克自治县)一战，将呼衍王部击败，呼衍王战死。公元151年，新呼衍王率3 000骑兵进犯汉军驻地伊吾，汉将司马达率军攻击呼衍王的后方蒲类海，呼衍王率军撤退。公元153年，车师后部王阿罗多反叛，率部众逃走投奔北匈奴单于本部。这时直至公元160年左右，北匈奴已经在乌孙国生存近70年的时间，但有一股力量不再让匈奴人在此安稳地生活，那就是鲜卑人。
鲜卑族是东胡部族的一支，东胡被匈奴冒顿单于打败后，其一支逃往大鲜卑山一带居住，因而这支东胡人被称为鲜卑人。鲜卑人初时依附于匈奴，与匈奴人一起攻击汉王朝。东汉王朝辽东太守祭彤于公元45年率军大败匈奴、鲜卑联军。公元49年，祭彤以利诱招降鲜卑人，鲜卑大都护偏何率其部落降服汉朝。自此以后，鲜卑人在东汉王朝的支持下，多次发起对匈奴人的进攻，并多次打败匈奴人。公元87年，鲜卑人出兵进攻北匈奴单于庭，杀死北匈奴优留单于，使得北匈奴西迁。
到了檀石槐继任鲜卑大人后，鲜卑变得非常强大，地域达到东西6 000多千米，南北3 500多千米。原匈奴领土尽被其占据。至公元160年左右，北匈奴将近70年的安稳生活不再安稳，强大的鲜卑人在檀石槐的率领下兵临他们城下。经过几番较量，北匈奴人不是正处于鼎盛时期的鲜卑人的对手，“三十六计，走为上策”，北单于决定继续西行，躲避鲜卑人的锋芒。
北匈奴于公元160年左右开始西迁，说是西迁，实际是西征。北单于将年轻力壮的大部部众带走，而将老弱病残留下，这部分人后来建悦般国。西征大军的第一个目标就是乌孙以西的康居，200年前，第一北匈奴的郅支单于曾应康居王邀请率军前往康居。但那次死亡之旅(因天寒地冻)，使得到达康居时北匈奴只剩下3 000多人。
第二北匈奴的西征仍走郅支单于的老路，但这次进军比较顺利，因为他们选择的是温暖的季节进行的这次远征。康居国原是匈奴的属国，从郅支单于那算，康居国王和北匈奴还有亲属关系。因此，对于匈奴人的到来，康居王应是比较欢迎的，正像200年前的康居王欢迎郅支单于一样，他可以借助匈奴的力量来抵抗周边国家的侵略。但北匈奴人在康居居住应是有期限的“暂住”，而不是长久居住。
这时的北匈奴被汉王朝及鲜卑人打击得已经非常虚弱，需要像汉王朝的“文景之治”一样休养生息。这样，他们在康居国一住就是100年，至公元260年，北匈奴变得比较强大时，也有可能是北单于与康居王约定的100年期限已到。北匈奴选择了康居国以西仅有200多千米的弱小的粟特国作为它攻击的目标。粟特国不堪一击，很快北匈奴就将它征服，北匈奴人在这里建立了自己的国家，粟特国王也成了北匈奴人的刀下之鬼。
粟特国灭亡后，其人民部分向西逃亡到与之同为西徐亚人的阿兰人那里。阿兰人是西徐亚人的一支，因其境内有阿兰山而得名。阿兰人生活在从里海至黑海北部的辽阔的草原上，阿兰人勇猛善战，他们的祖先曾打败第一超级帝国不可一世的居鲁士大帝，并将其杀死。第二超级帝国的亚历山大大帝在他们面前也吃尽了苦头。
因为同为桀骜不驯的民族，匈奴人和阿兰人的战争是长期的、不断的。但至公元345年，双方进行了最后决战，地点在顿河东岸地区。首先是匈奴人的骑兵向阿兰人发起进攻，阿兰人以战车迎敌。阿兰人的战车不是匈奴人骑兵的对手，阿兰人大败，其国王被杀，阿兰国被北匈奴征服。一部分阿兰人逃走，大部分阿兰人向匈奴人投降，愿意接受匈奴人的统治。北单于将骁勇的阿兰战士编入匈奴军队，大大增强了匈奴大军的军事实力。58xs8.com