安北将军王浚与司马颖向来有矛盾，这次司马颖劫了惠帝，王浚就想报复。他索性纠合鲜卑两大部落，并和司马越的弟弟、宁北将军东嬴公司马腾联合，共同前往邺城来讨伐司马颖。司马颖派北中郎将王斌及石超等出兵。
发兵之后，司马颖又害怕东安王司马繇接应外兵，便擅自将他拿下，并处死了他。
这次事变，司马繇的侄子司马睿逃出邺城，偷偷回到了领地，后来成为东晋的第一个皇帝。
这时，匈奴族的左部帅刘渊献计说，愿意为司马颖召集五部都督共同作战。司马颖大喜，拜刘渊为北单于，要他立刻出发。
刘渊回到匈奴地界，右贤王刘宣等人见到他十分高兴，立即联合各部落，尊奉他为大单于。刘渊一番假意退让后，坐上了宝座，定都离石。数日后，即召集了五万多人。他命令部将刘宏率领铁骑五千，前往邺城救驾。
可还没等刘宏到来，邺城已经失守，司马颖已带着惠帝逃回洛阳。刘宏中途得到消息，只好无功而返了。
由于司马颖与晋惠帝是打了败仗仓皇出逃，所以跑到半路就没有粮食了。幸好有个黄门小官还随身携带着三千文私房钱。晋惠帝便向他“贷款”，买一些粗劣难以下咽的粮食来勉强充饥。
他们逃走了，可怜的却是邺城百姓。王浚勾结的鲜卑人掳掠了数万名汉族少女，回师途中一路上大肆奸淫，然后把她们充作军粮，宰杀烹食。走到河北易水时，吃得只剩下八千名少女了。鲜卑军队又不想把她们放掉，于是将八千名少女全部淹死，易水为之断流。
却说刘渊看到刘宏回来，非常愤怒地说：“司马颖不听我的话，居然弃城而逃，真是无可救药。而当年我又得他恩惠，既然说好要救他，不可失约呀！”但是右贤王刘宣等人劝阻道：“可恶的晋人像对待奴隶一样对待我们，我们正想着要报复，现在又要我们去讨伐鲜卑。鲜卑、乌桓和我们是同类，怎么能够骨肉相残呢？何况大单于威名远扬，不但可以控制中原，就是呼韩邪的基业也可以恢复了。”刘渊见手下的人群情愤慨，知道时机成熟，就笑着把真话说了出来：“我今天已经率领大军十万余人，个个英勇善战，与晋兵交战，以一敌十，上可比汉高祖，下不失魏武帝，何况恢复呼韩邪基业呢？”刘渊于是决定不再支援司马颖，迁徙至左国城(今山西离石北)，迫不及待地树起了“大汉”的旗帜，成为旧时史家所言“五胡乱华”之始。
匈奴人建国，为什么要取个“汉”字呢？原来刘渊心想，昔日大汉天子很得人心，这就是为何汉昭烈皇帝刘备仅在益州就可以和吴魏抗衡的原因。我本来就是汉室的宗亲，兄亡了弟继承，我称汉王便是了，于是仿效汉朝的典礼来祭天地。登基的那天，五部都督都来恭贺。刘渊登上汉王王位，宣布大赦，年号为元熙，时在晋永兴元年(公元304年)。永嘉二年(公元308年)，刘渊又称汉帝，建都平阳(今山西临汾西南)。刘渊还改年号为永凤，追尊安乐公刘禅为孝怀皇帝，制作汉高祖、世祖、昭烈皇帝三祖和汉太宗、世宗、中宗、显宗、肃宗五宗的神主来祭祀;并立他的妻子呼延氏为王后。同族侄子刘曜天生白眉，目光炯炯有神，两手长过膝盖，身材挺拔魁梧，善骑射又善文字，磊落高尚，此时担任建武将军。
差不多同时，巴蜀地区也有位叫李雄的人在称王了。
李雄就是李流的侄子，李特的儿子。他占据成都数月后，见涪陵人范长生在蜀地百姓眼里很有威望，就想自己作为丞相迎立他为国君。但是，范长生没有答应，李雄只好在晋永兴元年(公元304年)十月自己登上了王位，称成都王，宣布大赦天下，改年号为建兴。建兴三年(公元306年)，李雄任用范长生为丞相，自己称皇帝，国号“大成”。李雄登基后，先废除晋朝法律，自建了七章法律。接着，他让叔叔李骧担任太傅，兄李始担任太保，李离任太尉，李云任司徒，李璜任司空，李国任太宰，阎式任尚书令，杨褒任仆射;还尊奉母亲罗氏为王太后，追尊父亲李特为成都景王。
话题又回到刘渊身上。他登基不久，就率领众人去攻打东嬴公司马腾。司马腾大败，向山东逃去。
刘渊又令大将乔晞进攻介休。介休县令贾浑登城死守，但孤城无粮，不久便被乔晞擒住，要他投降。贾浑厉声骂道：“我是大晋的守令，现在不能保全城池，已失臣道了，还要苟且偷生，为贼虏卖命，还有什么面目去见黎民百姓？要杀就杀，我决不投降！”乔晞一听到“贼虏”二字火冒三丈，立即将贾浑拖出斩首。也有人劝他保全贾浑，好教导大家要尽忠职守，但是乔晞大喝：“他尽忠的是晋朝，和我们大汉有什么关系。”忽然有一青年妇人嚎哭着来到贾浑面前与他诀别，乔晞叫人将她抓到自己面前，要她报出来历，说是贾浑的妻子宗氏。乔晞见她颇有姿色，不由得怜悯起来，说：“何必哭泣呢？我这里正好缺一位佳人。”还没说完，贾浑的头已经被砍了送入。宗氏更是号啕大哭。乔晞狞笑道：“不要这样，到后帐好好休息一下，我来替你压惊。”宗氏听了，不哭了，指着乔晞骂道：“胡狗，天下还有害死丈夫还想侮辱妻子的人么？我宁可断头也不被你侮辱，要杀快杀，不要妄想！”乔晞不忍心下手，但被宗氏骂得激动，竟然拔出佩剑。宗氏当即夺过剑来自刎而亡，随夫而去，年方二十。刘渊得知后大怒，骂道：“乔晞敢杀忠臣夫妇，若有天道，他还指望要留后么？”于是下令厚葬贾浑夫妇，将乔晞降职。
