公元前101年冬，匈奴单于死去，单于之弟左大都尉继位。汉武帝打算挟攻破大宛国之余威乘胜进兵匈奴。
天子用兵不兴无名之师，所以汉武帝下诏：“当年高祖皇帝于平城遭匈奴围困七昼夜，高皇后主政时，匈奴遣使通书言辞极尽侮辱之能事，实属大不敬。朕深以为耻，欲为先祖报仇雪恨。”
当时匈奴单于刚刚继位，朝局不稳，十分担心汉朝在此时攻打匈奴，所以派遣使臣言于汉武帝：“汉匈两国和亲数十年，血脉相连，我犹汉天子之子，故而汉天子亦如我之父，子安敢背父。”随即命人把当初扣留的汉朝使节路充国等人护送回汉朝。
公元前100年春，汉武帝见单于言辞恭顺，十分嘉许匈奴义举。故而派遣中郎将苏武也将过去扣押在汉朝的匈奴使臣送回，同时又携带丰厚的国礼，借此答谢单于之前释放的善意。
苏武和副使张胜以及临时充任使团官员的常惠一同出使匈奴，等汉使到达匈奴王庭，便代表朝廷向单于进献丰厚的礼物。单于却一改之前的谦卑，立刻变成过去骄横无礼的样子，不像汉朝所期许的那样。
正当汉使来时，曾经投降过汉朝的匈奴缑王和长水人虞常与当初随同卫律投降匈奴的原汉朝人密谋，打算劫持单于的母亲返回汉朝。
卫律之父本是长水地区的匈奴人，卫律素与朝中大臣李延年交情深厚，李延年故而举荐卫律出使匈奴。等卫律出使归来，恰逢李延年因事获罪，卫律怕受牵连，于是亡命匈奴。卫律十分受单于宠信，获封丁灵王，单于时常与之共商国事。
长水人虞常在投降匈奴之前就已经和副使张胜熟识。虞常便悄悄去拜访张胜，对其说道：“听闻天子十分怨恨卫律，我有办法替汉朝杀掉他。我的母亲和兄弟目前仍在大汉，希望朝廷能厚待他们。”张胜在没有告知苏武的情况下满口应承，并送给虞常许多财物。
过了一个多月，单于率众外出打猎。王庭之内只有单于之母和几个王公子弟，所以虞常联合七十余人打算趁机发动政变。然而就在虞常准备动手时，有人趁夜跑出去向留守王公通风报信。王公子弟闻讯，急忙派兵攻击虞常等人，叛乱很快被平定，匈奴缑王战死，虞常被俘。
不久，单于派卫律彻查此事，张胜得知消息，担心之前同虞常密谋之事败露，于是便把来龙去脉向苏武秉明。苏武听罢，叹息一声说道：“事已至此，早晚会牵涉到我，如果受匈奴人侮辱而死，有损天朝尊严，与其受辱匈奴，不如自裁保全名节。”于是拔剑欲自杀，幸亏被张胜和常惠拼死拦下。
正如张胜所料，在严刑拷打之下，虞常果然把张胜供出。单于大怒，召集王公贵族议事，打算诛杀汉使。此时有人站出来表态，认为杀之无益，不如将汉使招降，令其俯首称臣。
单于不久派卫律劝降苏武，苏武就将卫律来意告诉常惠等人，然后大义凛然的说道：“变节投降有辱皇命，即便可以苟活人世，将来又有何面目回归汉朝！”说完就拔出佩刀猛刺身体，鲜血顿时染红衣衫，当场晕厥在地。
卫律大惊失色，没有料到苏武如此刚烈，于是赶紧亲自抱起苏武，骑上快马召医官紧急施救。医官在地上掘出一个土洞，燃起篝火。等火熄灭之后，再将苏武俯卧于洞口，然后轻踩其背，把体内淤血排净。苏武本已气绝，后来过了大半天才苏醒过来。
常惠等人见苏武好不容易捡回一条命来，紧紧抱在一起喜极而泣，然后把苏武小心抬回营帐仔细照看。单于钦佩苏武不屈不挠的气节，朝夕派人慰问苏武，没有为难其余汉使，仅仅将张胜一人关押起来。
苏武身体渐渐痊愈，没有性命之忧了，于是单于再次派人劝降苏武。当时匈奴已将虞常定为死罪，单于打算趁此时机劝降苏武。于是当场斩杀虞常，将其首级放于苏武面前，妄图以武力使苏武屈服。
卫律杀气腾腾的对汉使说：“张胜意图谋害单于近臣，按律当死。然而大单于网开一面，下令汉使降者免死。”话音刚落，对着张胜举剑欲刺，张胜连忙跪地请降。
卫律露出轻蔑一笑，然后转向苏武说道：“副使有罪，正使应当同罪。”
苏武义正辞严的回答：“我并未参与此事，又非张胜亲属，怎可同罪？”卫律见苏武没有归降之意，于是又举剑做出要斩杀苏武的样子，然而苏武面对死亡威胁面不改色，端坐不动。
卫律见武力恫吓不奏效，便改换策略，对苏武好言劝慰道：“苏大人，我卫律自从弃暗投明归顺大单于以来，单于赐我荣华富贵。如果大人也肯归顺，那么单于也会对您许以高官厚禄。何苦执意不从而身死荒野啊，又有谁会知道您为汉朝尽忠守节呢？”
苏武厉声大骂：“你身为汉臣，不思尽忠报国，反倒忘恩负义，背主求荣，屈膝降于蛮夷之国，有何面目对我说这些无耻之言！
我堂堂天朝只有断头使者，绝无投降屈膝之徒！我大汉威加海内，犯我强汉者虽远必诛！莫非你没有看见南越、大宛和朝鲜国诛杀汉使者莫不身死国灭！匈