西晉末年，“八王之亂”攪得中原大地動蕩不止。

晉惠帝永興元年（公元304年）發生了“蕩陰之戰”，成都王司馬穎俘獲了晉惠帝，準備在自己的封地鄴城搞“挾天子以令諸侯”的把戲。都督幽州諸軍事王浚不滿司馬穎的所作所為，引烏桓部鮮卑族騎兵大舉來攻。鮮卑騎兵極其兇悍，一路連戰連捷，勢如破竹。司馬穎大為恐懼。司馬穎手下有一個匈奴族大將，姓劉名淵，曾經擔任匈奴族五部大都督，獻計說，匈奴族五部騎兵的戰斗力比鮮卑騎兵更強，不如由他回匈奴部的左國城請兵。司馬穎同意了他的建議。

臨行前，劉淵一再告誡：鮮卑騎兵雖然厲害，但長于野戰而短于攻堅，只要堅守不出，其糧食一盡，自然退兵，千叮嚀萬囑咐司馬穎萬萬不可出城自取滅亡。然而，劉淵前腳一走，司馬穎后腳就把他的囑咐忘得一干二凈。司馬穎把鄴城的守軍開到城外，列陣與王浚的步騎對砍。

這一戰，幽州鐵騎和鮮卑騎兵遂將騎兵的優勢發揮得淋漓盡致，他們策馬馳騁，來回包抄、縱橫切割，把鄴城的軍隊盡情蹂躪了個夠。司馬穎感覺到鄴城難于再守，逃往洛陽，最后死在東海王司馬越的刀下。

這里主要不是說司馬穎，而是劉淵。

劉淵，是一個漢化極深的匈奴人。早在漢高祖時代，漢朝就開始和匈奴冒頓單于和親。隨著和親次數增多，一部分匈奴人和漢人相處的時間越來越長，他們的子孫漸漸承認了自己身上的漢人血統，和漢人越來越親近。

東漢初年，匈奴人賴以生存的蒙古大草原發生了前所未有的大旱災，赤地千里，草木盡枯，人畜餓斃，尸堆如山，因無人清理，又引發了巨大的瘟疫，匈奴汗國終于陷入分裂，分裂為南北兩部。

南匈奴入居長城以南地區，并在離石（今山西）等地建立了自己部族的定居地。為了制約北匈奴，東漢政府一直和南匈奴保持友好關系。北匈奴向西遷移，后被東漢大軍逐出金微山（阿爾泰山）以外，長途跋涉，在匈牙利平原立國，融合于歐洲各族之中。

黃巾之亂，南匈奴的單于羌渠還曾派他的兒子於扶羅帶兵協助漢朝，討伐黃巾軍。

其實，在這段時間里，南匈奴內部也出現了許多動蕩因素，只是單于羌渠感于漢朝的恩德，還是毅然向漢朝伸出了援手。

於扶羅開赴中原不久，南匈奴果真發生了內亂，羌渠控制不了局面，在混亂中被手下殺死。這樣一來，帶兵在外的於扶羅有家難回，有國難奔，只得留在了漢朝，成立了流亡政府，自稱匈奴單于。

於扶羅的部族主要集居現在的山西、河東一帶。於扶羅死時，他的兒子太小，由他的弟弟呼廚泉繼任單于。南匈奴和漢朝的來往既久遠又親密，而於扶羅這一支又已遷入了漢朝內地，他們的后人已經和漢人無異了，名字也大都是漢名。

於扶羅認為自己是漢朝公主的后人，身上流著漢高祖劉邦的血液，就以劉為姓，給自己的兒子取名劉豹。