公元前215年，秦始皇命令将军蒙恬统领三十万秦军北击匈奴，匈奴败退七百余里。匈奴人慑于秦军的恐怖战力，十余年间不敢南下牧马，军队亦不敢兴兵复仇。直到秦朝灭亡，匈奴才敢稍稍在黄河以南游牧。
匈奴大单于头曼所册立的太子名叫冒顿。后来受单于宠爱的妃子又生下一个小儿子，子凭母贵，所以单于有易储的打算。当时的北方草原强邻环伺，匈奴东面是军力强大的东胡部落，西面的月氏国也逐渐崛起，匈奴在两大强邻的夹缝中生存异常艰难，于是头曼便把冒顿送往月氏做人质，以求获得稳定的周边环境，借以不断壮大自身实力。后来匈奴逐渐强大起来，单于便发兵突袭月氏国，因此月氏国国君想要杀死匈奴人质冒顿来泄愤。
冒顿得到消息后便偷了一匹月氏国的好马，历尽艰险重新逃回了匈奴。单于没有料到自己的儿子还能活着回来，觉得冒顿是个勇武之才，因此调拨一万余名骑兵归冒顿统领。冒顿制作响箭，训练士卒骑射，命令部队听其号令行动。下令凡是自己的响箭射向哪里，手下士兵的箭必须跟着射向哪里，如果有人不服从命令，定斩不饶！冒顿刚颁布完命令，就用响箭射自己的坐骑，然后又把目标射向了自己的爱妻，身边凡是不敢把箭射出的士兵，都被砍头了。左右士兵见状莫不畏服，再也不敢不遵从冒顿的将令了。最后冒顿又射单于的宝马，这一次所有的人都把箭射向了目标，此时冒顿明白人心可以为己所用了。
一天，冒顿跟随父亲狩猎，瞅准时机将响箭射向了自己的父王，左右随从见状纷纷瞄准单于射箭。一代匈奴单于头曼被自己的亲生儿子杀死以后，冒顿便自立为单于王，为了斩草除根不留后患，冒顿把继母和弟弟以及不听命于自己的大臣们通通杀掉了。
东胡国王听说冒顿杀掉父亲自立为王，想在匈奴权力更迭之际趁机将其吞并，但在动手之前，决定先试探一下对手。
于是东胡王便派遣使者到匈奴，想要得到头曼过去的坐骑千里马。冒顿问计于群臣，大臣们都说千里马是我们匈奴的宝马，不能给东胡。冒顿却说：“与人邻国本应友好相处，何必吝惜区区一匹马呀！”于是大方的把宝马赠送给了东胡。过了不久，东胡又派遣使者想要得到冒顿的一位妃子。冒顿再次和群臣商量，大家都愤怒的说东胡太无礼了，竟然提出这种过分的要求。然而冒顿说为了一个女人不值得与邻国撕破脸，便又把自己的妃子送给了东胡。有了前面两次甜头，东胡王觉得冒顿软弱可欺，因此愈加骄横。东胡与匈奴两国之间有一块方圆千里的土地被遗弃了，无有人烟。两国长久以来各自占据一边，派兵驻守。东胡王盯上了这块地盘，所以又派遣使者告诉冒顿自己想完全占有这块无主领地。冒顿依旧像往常那样和群臣商量对策，或许大臣们有了前面几次的经验，所以这次有的大臣说可以给，另有一帮大臣表示坚决不能把国土给东胡。冒顿的表现出乎所有人的意料，勃然大怒说道：“土地是国家根本，怎可轻易予人！”手下大臣里面凡是说过可以给的人，全部被拉出去斩首了。
冒顿随即跨上战马，发布战争动员令：“国中所有的士兵立即随军出发，凡是有落后迟来的一律斩首！”于是冒顿倾全国之力攻打东胡。起初东胡王十分轻视冒顿，因此不以为备，俗话说骄兵必败，有备无患，冒顿顺利的灭掉了东胡国。
得胜归来之后，冒顿携战胜之余威向西攻打月氏国，月氏国战败，只得举国西迁。吞并东西两大邻国后，冒顿并没有停止前进的脚步，继续向南占领楼烦、白羊两国。至此冒顿的势力逐渐染指中原王朝的北部边境，把从前秦将蒙恬夺取的匈奴故土重新收入囊中。当时，中原大地楚汉相争日趋激烈，无暇顾及北方边塞之地。因此匈奴逐渐强盛起来，全国可战之兵足有三十万之众，威震北方诸国。
公元前201年，秋，匈奴大军在马邑包围韩王信。韩王信数次派遣使者出使匈奴，谋求双方和解。刘邦听说韩王信被围，火速派兵救援。当听说韩王信私自派遣使者到匈奴，刘邦便怀疑韩王信有二心，于是派遣使臣责问。韩王信深知刘邦的为人，担心被杀，就在九月投降匈奴。冒顿在韩王信的引导下一路向南进攻太原，抵达晋阳，直接威胁到汉朝的统治。刘邦不能坐视不管，所以同匈奴王朝的大规模用兵不可避免了，由此揭开了汉朝与匈奴长达一百三十多年战争的序幕。
公元前200年，刘邦亲自统军攻打投降匈奴的韩王信，于铜鞮大败韩王信，斩杀其将领王喜。韩王信兵败将亡，无路可去，只好北走匈奴。将领曼丘臣和王黄等人拥立原赵国王室后裔赵利为王，联合韩王信的残兵败将与匈奴一同进攻汉朝。匈奴派遣左、右贤王率领一万多骑兵与王黄等人驻屯在广武县以南地区，等联军兵抵晋阳时，汉军主动出击，匈奴抵挡不住，便败退而走。不久，匈奴重新整合军队，准备再战，汉军乘胜追击，不给匈奴喘息之机。当时天降大雪，寒风扑面，士兵冻掉手指的占部队总人数的百分之二三十。
刘邦驻陛晋阳，听闻匈奴单于住在代谷这个地方，打算亲自带兵攻打匈