公元前196年，秋，七月，淮南王黥布起兵造反。当初韩信被杀的时候，黥布内心已经感到了恐惧，担心自己也有那么一天。怕什么，来什么，不久彭越也被杀掉了，刘邦把彭越的身上的肉做成了肉酱，赐给各诸侯王，以示警醒。当刘邦的使者带着彭越的肉酱来到淮南时，黥布正在打猎，在得知使者手中捧着的是彭越的肉酱时，黥布惊恐不安，明白大祸即将临头了，于是暗中调动兵马以防不测，一但有风吹草动，便举兵造反。
某日，黥布的宠妃生病就医，医官的住宅与中大夫贲赫家对门，贲赫听说了这件事，想通过黥布的宠妃来巴结黥布，于是便带着厚礼来到医官的家里陪宠妃喝酒。事情传到了黥布的耳朵里，他怀疑贲赫和自己的宠妃有染，就想把贲赫抓起来治罪。贲赫明白这种事情解释不清，一旦被黥布抓住，性命难保。所以干脆跑到长安上疏告发黥布有谋反迹象，不如趁其尚未起兵，先发制人，杀掉黥布。刘邦看到贲赫的奏章之后，找萧何商量对策。萧何思考了一阵便说：“黥布应该不会轻易谋反，这恐怕是受到了仇家的诬陷。不如先把贲赫抓起来，派人暗中调查黥布，然后再做打算。”
黥布没有抓到贲赫，听说他畏罪逃到了长安，所以黥布怀疑贲赫已经泄露了自己打算谋反的事。如今刘邦派来的使者又掌握了不少对自己不利的证据，所以黥布一不做，二不休，直接杀了贲赫全家，然后举兵叛乱。等到黥布造反的消息传来，刘邦立刻释放贲赫，封他为将军。然后召集众将商量对策，大家纷纷表态主张迅速派兵平叛，等抓住黥布那小子，直接把他活埋就行，量他也没有多大本事！
当时刘邦病情加重，打算让太子代替自己征讨黥布。这个时候，太子的宾客里面有人说话了，宾客们对太子的舅舅建成侯吕释之说：“太子率兵出征，如果立有战功，则功高震主，对于稳固太子之位极其不利。要是出征不利，那么从此就会受祸无穷。您何不请皇后出面，让她找个时机对陛下说黥布是天下猛将，善于用兵。况且陛下手下的将领都是声名显赫的宿将，如果让太子去统领这些人去打仗，无异于让一只羊去带领一群狼，所以诸将怕是不肯听命吧？如果让黥布知道了这个情况，无疑会使黥布轻视汉军，从而一鼓作气攻向长安。陛下虽然身体违和，但也应该振作精神，为妻子儿女考虑，带病出征。若如此，则诸将敢不尽力？”
于是吕释之当夜立刻去见吕后，将来意说明。吕后心急如焚，便找了机会向刘邦哭诉。刘邦觉得大家说的有道理，于是不无感慨的说：“我自然知道刘盈这小子难以服众，罢了，还是我亲自出马吧！”不久，刘邦强撑病体带领大军向东征讨黥布，大臣们送至霸上，留守长安。此时，张良的病情也逐渐加剧，听说刘邦御驾亲征，便挣扎着身子来到曲邮面见刘邦。张良对刘邦说：“微臣本该追随陛下出征，只可惜我生病不能前行。黥布兵强马壮，希望陛下避其锋芒，徐徐图之！”张良又劝说刘邦让太子监军，管理关中的所有兵马，刘邦表示同意，语重心长的对张良说：“先生虽然身体不适，但还需勉力辅佐太子啊！”
黥布造反之前对其将领们说：“刘邦已经垂垂老矣，厌倦了四处征战，所以此次肯定不会亲自领兵。如果他派手下将领带兵作战，那么诸将中我唯独对韩信和彭越有所忌惮，如今二人已死，其他的将领对我而言也就没什么值得畏惧的了。”所以黥布此次造反才有恃无恐。黥布大军自举兵以来，一路势如破竹，先后击败荆王刘贾和楚王刘交的军队，兵锋甚锐！
公元前195年，冬，十月，刘邦亲率大军在蕲县以西与黥布的军队遭遇。刘邦在庸城扎下大营，远远望见黥布排兵布阵甚为精妙，就像当年项羽的楚军一样强悍，因此刘邦深感不悦。等刘邦看见黥布时，相隔老远对黥布大声斥责：“我待你不薄，因何反叛？”黥布不假思索的回答：“不为别的，我也想过过当皇帝的瘾，取而代之！”刘邦勃然大怒，命令全军出击，经过一番血战，黥布败退，率军退过淮河，中间有好多次想稳住阵脚伺机反攻，但都没有成功，最后只剩下残兵败将一百多人，逃亡江南。刘邦派遣其他将领继续追击黥布残军，务必斩草除根，永绝后患。最终汉军在洮水南北两岸大破黥布的军队。黥布不得已只得拼命逃跑，最后被姻亲诱骗到番阳，一代勇将黥布最终被人杀死在一所农家田舍里。
刘邦自从平定黥布叛乱回到长安以来，病势日见沉重，自知时日无多，因此越发的操心身后事，他认为太子过于孱弱，难以压服功臣宿将，一但成为继位新君，恐怕汉朝江山无法延续千秋万代，所以废掉太子的念头更加强烈了。张良苦谏不听，只好称病从此不再过问政事。大臣叔孙通向刘邦进谏：“春秋时候，晋献公因为宠爱骊姬的缘故，所以废掉太子，改立骊姬之子奚齐为太子，晋国由此发生数十年内乱，为世人所笑。秦朝正是因为没有及早册立公子扶苏，所以才让宦官赵高得以抢先拥立胡亥为帝，最终自取灭亡，这是陛下您亲眼所见的。如今太子殿下仁爱友孝，天下之人共知。况且吕后与陛下同甘共苦这么多年，又怎好轻易背弃呢？如果