匈奴刘氏形成后不久，东汉刘氏王朝就于公元220年灭亡；43年之后也即公元263年，三国蜀汉政权也被魏国灭亡；2年后司马氏灭曹氏，魏晋鼎革，西晋兴起。当刘姓在中原失鹿亡国，沦为庶民的时候，匈奴刘氏却以汉家子孙自居，仍雄居山西，控制着整个南匈奴部族。而随着匈奴族的进一步汉化，匈奴刘氏更有南下中原、问鼎天下之意，并以复兴汉家天下为己任。正是在这一历史背景下，造就了刘渊这样一个杰出人物。
公元3世纪中叶，匈奴左贤王刘豹之妻呼延氏梦服太阳之精而生下一个神奇的婴儿。婴儿左手心有一个"渊"字，因而取名叫刘渊，字元海。(这种现象与当年刘累取名如出一辙，这其中是否有某种神秘的寓意呢?)刘渊儿时便英慧异常，聪明好学，曾随上党著名学者崔游学习汉族经典《毛诗》、《京房易》、《马氏尚书》等，尤其好读《左传》和《孙子兵法》，对《史记》、《汉书》和渚子百家，也无不博览。经过多年的学习，刘渊终于成为一个博学多才、熟知汉族文化的匈奴贵族子弟。后又学习武事，不久就成为一个精于骑射战阵、文武双全的杰出青年，深为匈奴贵族和当地汉族名士、豪强所敬重。后来，左贤王刘豹去世，刘渊袭父职任匈奴左部帅。
西晋太康(280-289年)末年，刘渊被晋武帝任命为匈奴北部都尉。晋惠帝时又升为建威将军、五部大都督，并封为汉光乡侯，成为晋朝的北方守将和被晋朝承认的南匈奴最高统帅。不久，晋王朝发生内讧--"八王之乱"，司马氏互相残杀，中国北方地区陷入长年的兵灾战乱之中。当此之时，北方各族人民纷纷起义。以左贤王刘渊为首的匈奴贵族，自认为匈奴刘氏为汉朝子孙，应乘机推翻晋朝，恢复刘氏汉家天下。而成都王司马颖欲借匈奴部众为援，便任命刘渊为冠军将军，封卢奴伯，不久又任刘渊为北单于，参丞相军事，派他回匈奴。
晋元熙元年(304年)，刘渊回到左国城，被匈奴部众拥立为大单于，建都离石(今山西离石)，公开起兵反晋。不久，刘渊在左国城设坛祭天地，即位称汉王，年号"元熙"，追尊三国蜀后刘禅为孝怀皇帝，并祭祀汉家列祖列宗。接着，汉王刘渊率兵南下，问鼎中原。匈奴铁骑出击并州各地，多次打败前来镇压的晋军，赶走了晋并州刺史司马腾，并收服、合并了在东方起义失败的王弥和石勒等部。
永嘉二年(308年)，刘渊在蒲子(今山西陧县)正式即位称皇帝，改元"永凤"，迁都平阳(今山西临汾西南)，并大封匈奴刘氏子弟为王为侯。当此之时，匈奴刘氏如日中天，盛极天下。刘渊称帝后，派儿子刘聪等统率匈奴数万精锐骑兵，多次进攻晋都洛阳。因战事失利，后撤兵北归。晋永嘉四年(310年)，汉国皇帝刘渊尚未来得及取代晋朝，一统天下，便在平阳去世。在位仅6年，被谥为光文皇帝，庙号高祖。
刘渊娶匈奴贵族呼延氏为皇后。他的儿子见于记载的有5人：嫡长子刘和，封皇太子；皇子刘裕，封齐王；皇子刘隆，封鲁王；四子刘聪，封右贤王、鹿蠡王；聪弟刘乂，封北海王。
刘渊还有一个弟弟，名叫刘雄。刘雄，字元英，北汉时官任使持节、侍中、太宰、司徒公、右部魏成南王。《金石录》卷20记载有他的墓志铭。
