“八王”之乱给了匈奴人以可乘之机，而这一匈奴首领也已出现，他就是刘渊。刘渊系南匈奴单于於扶罗之孙，左部帅刘豹之子。刘渊自称是汉公主的后代，是汉朝的外甥，因此用“刘”姓。刘渊自幼就从师于汉人崔游，深受汉文化影响。魏末晋初，曾以“质子”身份居住在洛阳，结交了许多晋朝官吏，被晋武帝委任为匈奴五部的北部都尉。第二年又被提升为统管匈奴五部的大都督。
公元299年，在“八王”之乱中，成都王司马颖坐镇邺城，任命刘渊为行宁朔将军，命他回并州召集匈奴五部骑兵前来增援。但刘渊回并州后，并未率领匈奴骑兵返回增援司马颖，而是在公元304年在离石宣布自立为王，国号为汉。这时刘渊的部众有350 000人口，实力比较强大。刘渊振臂一挥，很快得到了鲜卑、氐等其他民族首领的响应，他们共推刘渊为盟主，共同发起对晋王朝的战争。
公元304年10月，刘渊将都城迁至左国城。这时不断有人带兵前来归顺，已聚集数万兵马。晋王朝听到刘渊率匈奴五部落独立的消息，深感事态严重，于当年12月派将军聂玄率军前来攻打刘渊。双方交战于大陵，聂玄军大败。刘渊乘胜命建武将军刘曜率军队攻打太原郡，连续攻下了泫氏（今山西高平）、屯留（今山西留南）、长子（今山西长子县）、中都（今山西平遥）等地；另派冠军将军乔?进攻西河郡，占领了介休（今山西介休东南）。匈奴人军威大振。
公元305年6月，刘渊派部将率军攻晋东赢公司马腾，因为攻打匈奴的聂玄军正是司马腾的部队，但这次匈奴军进展并不顺利。司马腾见匈奴军来势汹汹，便派人与驻扎代郡的鲜卑拓跋部联系，双方共同出兵将刘渊部将綦毋豚打败。这样，匈奴复国后的进攻势头暂时被遏制。
经过三年的整编、修整、积蓄力量，匈奴军在刘渊的亲自率领下，对西晋王朝开始了大规模的征讨。公元308年7月，刘渊率军开始对平阳（今山西临汾西南）进行攻击，平阳太守宋抽见城池难保便弃城而逃。前来救援的河东太守路迟军被击退，路迟本人也被杀。刘渊将都城迁至蒲子（今山西隰县）。刘渊的胜利又使许多鲜卑、氐族人前来投奔，刘渊军实力又增。
公元308年9月，刘渊命手下大将王弥、石勒率军攻打邺城（今河北临漳西）。邺城守将和郁见匈奴大军来攻，自知不是对手弃城而逃。这样，匈奴军兵不血刃占领了邺城。刘渊见时机已到，便于同年10月宣布登基皇帝建立了十六国中的汉国，年号为永风。
登基皇帝后，刘渊命石勒等部继续出击，向汲郡（今河南汲县西）、顿丘（今河南清丰西南）等地进攻。各地晋军已无斗志，匈奴军顺利占领汲郡、顿丘、魏郡等地，并俘获晋魏郡太守王粹，将其斩首。有50 000多晋兵向匈奴军投降，石勒军得到很大加强。
取得对晋的初战胜利后，刘渊便着手进攻晋都城洛阳。对于取代晋朝，成为中原皇帝，刘渊说：“匈奴和大汉曾约为兄弟，兄死弟继任是应该的。”晋朝都城洛阳经“八王之乱”后，城池多次被攻毁，已不那么坚固。此时晋朝虽然名义上是司马炽为皇帝，实权却掌握在东海王司马越手中。司马越滥杀无辜，排除异己，将皇宫卫队都换成他的人。左积弩将军朱诞被司马越排挤出皇宫后，投奔了刘渊。他向刘渊说明洛阳城人心涣散，建议刘渊不失时机地攻取洛阳，灭亡晋朝。
刘渊听从了朱诞的建议，公元309年4月，刘渊命朱诞为前锋，灭晋大将军刘景为大都督，起兵进攻洛阳。匈奴大军首先攻占了黎阳（今河南浚县），接着又在延津战败晋朝车骑将军王堪。
与此同时，刘渊又命王弥为征东大将军，统帅青、徐、兖、豫、荆、扬六州一切军务。另一路以刘聪为都督，石勒为前锋进击壶关（今山西长治北），打通进军洛阳的通路。见匈奴军来攻，并州刺史刘琨命护军黄肃率军前往增援守卫壶关的韩述军。石勒、刘聪分率二军在封田、西润二地将二将击败杀死。
司马越见匈奴军来势汹汹，便派内史王旷与将军施融、曹超率数万大军前往迎战刘聪、石勒军。双方军队在太行山区遭遇，交战于长平（今山西高平西北）。晋军大败，王旷、施融、曹超均被杀，晋军阵亡19 000多人。匈奴军就势占领了屯留（今山西屯留南）、长子（今山西长子境）。上党太守庞淳见晋军大败，便献壶关投降匈奴军。刘琨闻知此讯，命都督张倚兼任上党太守驻军在襄垣（今山西襄垣北）。58xs8.com