却说匈奴逃往漠北之后，专事休养人马练习骑射，久未犯边。但不时遣使者到汉请求和亲。后来贵臣来汉，忽得一病死于长安，武帝命路充国佩二千石印绶往送其丧，厚加赠遗值数千金。路充国到匈奴后，单于说贵臣是被杀死的，乃扣留路充国不让他去。当日被匈奴扣留者前后十余人，汉扣留匈奴使者彼此相当。
忽报路充国自匈奴归来诣阙求见。当下召入问明情形。充国行过礼后，方将匈奴事实约略上陈。
原来匈奴儿单于在位三年病死，有子尚幼不能嗣位，国人立他季父右贤王呴犁湖为单于。才及一年呴犁湖又死，弟弟且鞮侯继立。且鞮侯恐汉朝发兵进攻，乃自说道：“汉天子是我丈人，我乃儿子怎敢敌汉？”说着即将汉使路充国等一律释回，并使人护送且奉书求和。武帝闻言甚喜，也尽释所留匈奴使者，遣中郎将苏武持节送归，并以财币厚赠单于答其善意。
苏武字子卿，即前平陵侯苏建之子。苏建自与赵信征胡战败，赎为庶人，后复为代郡太守，病卒任所。苏武兄弟三人，自少皆以父荫为郎，后兄苏嘉为奉车都尉，弟苏贤为骑都尉，而苏武为栘中厩监。时李广之孙李陵为建章监，与苏武同为侍中，二人交好甚密。苏武此次受命出使吉凶难卜，特与母妻亲友诀别，李陵闻知也来送别，并作诗三首赠行。
苏武与副使中郎将张胜、属吏常惠及士卒百余人离了长安一路北去，到得匈奴入见单于，传达武帝言语，送还匈奴使者，并将财币送与且疑侯单于。单于本无意与汉和好，只因初次即位人心未定、又因汉使不肯投降，留在国中无益于事，不如放还，借此为缓兵之计。今见武帝赠以厚礼愈加骄傲，正欲遣人发送苏武归国，谁知忽然发生事故。
原来卫律素与李延年交好，李延年荐于武帝，武帝遣其出使匈奴。适值李延年犯罪被囚，卫律不敢回国便降匈奴。单于一得卫律格外宠任，封他为丁灵王。其部下虞常从卫律出使，不愿降胡，密与缑王商议，二人计议许久，苦于未得机会。此次苏武到来，虞常前在中国时与副使张胜相识，便与张胜密说道：“闻汉天子甚怨卫律，我能为汉杀之，吾母与弟在汉望得天子赏赐。张胜立即允许，并以财物赠与虞常。虞常自去预备。
一个多月后，单于出外打猎，只有阏氏和单于子弟在。虞常等七十余人起事前，一人趁夜逃跑，揭发了他们的计划。单于子弟与他们交战，缑王战死，虞常受擒。且鞮侯闻变驰归，令卫律严讯此案。张胜详告苏武，苏武愕然道：“事已至此怎能免累？我若对簿虏庭岂非辱国？不如早图自尽罢！”说罢拔出佩刀便欲自杀。张胜、常惠连忙上前拦阻，苏武被众人劝住不得动手，心里早决计安排一死。张胜等心中惴惴各怀鬼胎，但望虞常不将此事供出，便可保全无事。
谁知虞常被卫律严刑拷打痛苦难忍，只得据实供出。卫律将供词告知单于，单于召集贵臣议杀汉使。左伊秩訾劝阻道：“彼若谋害单于，也不过罪及死刑，今尚不至此，不如赦他一死迫令投降。”单于便召汉使并其从人到来听命。苏武闻召昂然前往；张胜、常惠也气愤地跟随而来。
卫律便传单于之命立迫投降。苏武听了对常惠等说：“我若投降匈奴屈节辱命，以后有何面目归汉。”说罢便拔刀自刺。在会众人大惊失色，卫律两手将他抱住，吩咐飞骑往召医生。不消片刻医生到来，苏武晕绝地上血流不止。医生就地上开挖一坑下置愠火，将苏武反面放在坑上，令人以足踏背使之出血。然后将药敷住伤口。也是苏武命不该死，医治半日渐有气息，
单于敬重苏武节操，早晚遣人来营问候，只将张胜一人收系在狱。不久苏武伤痕渐渐平复，单于屡次遣人劝降，苏武只是不肯。
虞常被判定死罪，到了行刑之日，卫律便想借此威吓苏武，于是排齐兵队请到苏武，又从狱中提出张胜、虞常。卫律先将虞常斩首，复向张胜说道：“汉使张胜谋杀单于近臣，罪亦当死，如肯投降尚可宥免！”说完即举剑欲砍张胜。张胜连忙自称愿降。卫律回顾苏武道：“副使有罪君应连坐。”苏武正色道：“本未同谋，又非亲属，何故连坐？”卫律将剑指定苏武，苏武依然不动。卫律见苏武全不畏死吓他无用，便又软说道：“苏先生何必固执。想我当年也是汉朝使者，因事亡入匈奴，不想受到单于恩宠，不仅封王，而且拥有数万民众，牛马牲口数不胜数。如果苏先生今日肯降，明日也会如我一般富贵。否则白白拿身体去做野草的肥料，有谁会记得你呢？”
苏武仍是毫无反应。卫律急了，继续抛出诱降礼包道：“先生今日若降，我愿与你结为兄弟。如果不听我的忠告，那么以后想再见我可没那么容易了。”
听卫律越说越不着调，苏武忍不住骂道：“你真是枉为人臣。汉家何曾薄待于你，你竟然忍心背弃君父。像你这样甘作胡虏之臣的货，我见你做什么呢？今天我肯定不会投降，还是请你杀了我吧。”
卫律一听羞愧不已，只好回报单于。单于听后更加钦佩苏武，越发想使其降顺。
于是单于就想折磨苏武，使其难以忍受不得不降。于是遣人将苏武安置于北海上的无人之处，使其牧养羝羊并且说道：“须是羝羊生子方得放归。”羝系牡羊向不产子。又将官属常惠等分别安置他处，使之不得相见。
苏武于是一手执使节，一手挥羊鞭，在这个人迹罕至的苦寒之地当起了牧羊人。
苏武在北海没有人供应粮食，只能自己动手丰衣足食。他很快掌握了一些鲁滨逊的技能，比如学会了挖掘田鼠窝，从中发现被它们搜集的果实。
为了提示自己不忘初心牢记使命，苏武无论起居手里都紧握着使节。时间长了，使节上面的牦牛毛都掉光了，苏武仍不肯放下。
不知不觉过了五六遍寒暑，苏武心想自己可能就要老死此处无望生还了。
谁知一日远远望见一大队人马簇拥而来，苏武久不见人，今得相逢，不问是胡是汉心中都觉欢喜。及至走近，乃是单于之弟于靬王，他听说北海禽兽甚多，于是率众前来射猎。见了苏武，知道他是汉使不降者。苏武虽然面上难掩苍老，但是眼神清澈，眉宇间透着一股执拗。苏武平淡地跟他讲了这些年自己的经历，还让于靬王看了看那个光秃秃的使节。于靬王敬其忠义心生怜悯。于是就张起毡帐驻在北海之上，日常领众四出射猎。苏武相聚日久彼此熟悉，闲时便替他们矫正弓弩，修理种种猎具。于靬王见其甚有才艺愈加爱重，便供给其衣食，苏武这才脱下身上破旧衣服换上新衣，弃却野鼠草实来食膻肉酪浆。
光阴迅速，又过了三年余，于靬王忽得一病自知不起，他怕自己死后无人供给苏武，便拨出许多牛羊用具等赐与苏武。于靬王不久身死，他部下果然移居他处，苏武依然剩得一人，邻近北海的丁灵人听说苏武牲畜众多，便率众前来偷盗一空。苏武的生活又复穷困。
武帝探闻苏武消息后，遂命李广利领兵三万往击匈奴。又召骑都尉李陵随军征进。李陵字少卿，乃李广之孙，其父李当户早死，遗腹生陵。少为侍中建章监，善骑射，爱人下士，众皆称之。武帝以为有李广之风，曾使他带领八百骑深入匈奴二千余里，不见胡骑而回，武帝拜为骑都尉。这次武帝召见李陵于武台，命他为李广利押送辎重。李陵叩头自请道：“臣所领兵队皆荆楚勇士，力能扼虎，射必命中，愿得一队以分单于兵力，不使专与贰师对敌。”武帝道：“你莫非不愿为人属下，但是我发兵已多，并无马队与你。”李陵道：“不用马队，臣愿以少击众，自率所部步兵五千人直入单于之庭。”武帝见其胆勇过人也就依允，于是另遣他将押送辎重随同李广利出发。
李广利领兵由酒泉出塞，击右贤王于天山，斩首万余级，奏凯而回。右贤王不甘失败，自去招集大队来追广利。广利行至半途即被胡骑追及，四面围住。李广利率众左冲右突不能得出。又兼军中粮食已尽，匈奴四面急攻，士卒远来饥困抵敌不住，死伤十之六七。正在危急之际，假司马赵充国独率壮士百余人，披甲操戈首先突围，但见胡骑密布有如蜂屯蚁聚，充国大呼陷阵，向矛戟林中横冲直撞，如人无人之境。胡兵挡着便死只得退避，充国杀开一条血路冲出圈外。广利趁势麾兵随后杀出。这场恶战，充国身受二十余创幸得不死。广利回都奏报，有诏召见充国，武帝验视伤痕血迹未干，禁不住慨叹多时，当即拜为中郎。
却说李陵率同步卒五千人出遮虏障，直至东浚稽山，一路未遇胡兵，正待班师，忽报单于大队人马约有三万到来。李陵就两山之间结下营盘，外用大车环绕，以防敌兵冲突。自率士卒出营排成阵势。单于望见汉兵甚少，指挥胡骑来扑汉营。李陵坚守不动，等到敌兵将近时，只听得一声鼓响，汉军中千弩齐发，箭如飞蝗一般，前队胡兵应弦而倒，后面立脚不住，一齐退走上山，李陵率众掩杀一阵，胡兵死者数千人。
且鞮侯单于见战不过李陵，急遣人要求左右贤王发兵助战。左右贤王立即即发兵到来，一共八万余骑。
李陵见胡骑众多势难相持，于是且战且走向南而行。单于率众从后追赶，汉兵行了数日到一山谷中，胡兵赶到，汉兵奋勇抵敌各有死伤。李陵传令士卒受三伤者载以车辇，受两伤者推运车辆，受一伤者持兵战斗，彼此苦战。至夜俱各歇息，李陵回营对部下道：“吾军鼓声不起是何何故？莫非军中藏有妇女？”遂亲自查搜，果在大车之中搜出许多妇女。李陵究问来由，乃是关东盗贼妻女发遣到边，边军占据为妻，此次出征随带同行。今被李陵搜得，一剑一个尽行斩首。士卒见了大惊失色，但因私带妇女违犯军令，自己不遭责罚已是便宜，谁敢开口拦阻，只有暗自痛惜，各将尸首掩埋。
到了次日又与匈奴交战，汉兵人人死心塌地勇气百倍，阵斩敌首三千余级。匈奴大败回报单于，单于自恃兵多尚不肯舍，仍然催兵追赶。
李陵杀败追骑，引兵向东南而行，行经四五日到了一个大湖，湖中遍是葭苇。时值隆冬北风大作，单于令部下顺风放火欲烧汉兵。李陵教兵士放火先烧免得延烧。一路行过大湖南至山下。单于引兵占住山上来攻汉兵。李陵望见单于亲在山上督战，下令张起连弩齐向单于射去。单于胆怯退下山来，召集大臣商议道：“这是汉朝精兵连战不疲，日夕引我南下，莫非另有埋伏不成？”于是决定商议退兵。
忽报汉军有人前来投降。原来军侯管敢被校尉笞责，竟去投降匈奴，报称汉兵并无后援，矢也将尽，只有李将军麾下及校尉韩延年部曲八百人。韩延年颍川人，即韩千秋之子。此次随李陵出征，现为校尉。
单于听后心中大喜，于是尽起兵队随后急攻。又遣精兵绕道至汉兵之前断其去路，口中大呼道：“李陵、韩延年速降！”汉兵被困谷中，胡兵立在山上，四面围射箭如雨下。汉兵五十万箭一概射尽。检点士卒尚有三千余人，惟手中各剩空弓如何拒敌？索性砍破车轮，截取车轴充作兵器。胡骑上山掷石，又堵住前面谷口，汉兵多被击死。
此时天色渐晚，两军休战，各进晚餐。李陵出营四望胡兵，只见漫山遍野安下营寨。李陵见了不觉心惊，自料难以逃脱，寻思良久仍回营中。左右不敢动问。但听李陵长叹一声说道：“兵败死矣。”遂命砍断旌旗并所携珍宝，就地上掘一大坑掩埋。李陵对将吏叹道：“每人再得数十箭便可脱身，今手无兵器如何战斗，与其束手待缚。不如各寻生路四散逃走，侥幸得脱尚可归报天子。”说完便传令兵士每人携带干粮二升，冰一片，各自逃生。到得夜半，李陵下令鸣鼓集队，鼓声忽然不响。李陵与韩延年一马当先杀条血路，兵士跟随出得谷中。胡骑数千追至，将李陵、韩延年围住，部下士卒早被冲散。韩延年血战而亡，李陵回顾部下只有十余人，不由向南泣说道：“无面目见陛下了！”说罢竟下马投降匈奴。错了，错了！如何对得住韩延年？
兵士尚有四百余人逃脱，将战败情形告知边吏。边吏飞报武帝。武帝以为李陵战死，过了一时方知李陵投降。武帝大怒，召到陈步乐责问。陈步乐恐惧自杀，武帝遂将李陵之母及妻子囚系保宫。
文武百官都骂李陵，汉武帝问太史令司马迁如何处置李陵。司马迁说：
“李陵提步卒不满五千，当匈奴亿万之众，转战千里矢尽援绝，士卒犹争先死敌。今虽身陷胡中，所立战功也足表彰于天下。所以不死者，可能是等候机会立功报汉。”，武帝心想，我命李广利统领大兵出征，使李陵为其援助，李陵偏欲自己逞功，以致兵败身降。于是勃然变色，命将司马迁交与廷尉办罪。廷尉奉命议定司马迁罪名，说是应处宫刑。司马迁竟被李陵连累遭刑，真是冤枉。
很久以后，武帝悔悟到李陵是无救援所致，说：“李陵出塞之时，本来诏令强弩都尉接应，只因受了这奸诈老将奏书的影响又改变了诏令，才使得李陵全军覆没。”于是派使者慰问赏赐了李陵的残部。李陵在匈奴一年后，武帝派因杅将军公孙敖带兵深入匈奴境内接李陵。
公孙敖无功而返，但言捕得胡虏，供称李陵见宠匈奴，教他备兵御汉，所以臣不敢深入，只好还军。武帝本追忆李陵，悔不该轻遣出塞，听了公孙敖的话信以为实，不觉大怒，遂命将李陵老母妻子一律处斩。李陵虽然有罪，但陵母及妻子实不该处死。
又过一年，且鞮侯单于病死，子狐鹿姑继立，遣使至汉廷报丧。武帝派人往吊，李陵听说家属被戮，免不得诘问汉使。汉使即将公孙敖所言备述一遍，李陵作色道：“这是李绪所为，与我何干。”言下恨恨不已。
使者将李陵之语回报武帝，武帝才知其误，但悔已无及。李绪也是汉人，官为塞外都尉，防守边城。匈奴来攻，李绪开城出降，单于待以客礼，常坐李陵之上。李陵自闻汉使之言，痛恨李绪教胡备兵累及老母娇妻，便乘李绪无备把他刺死。单于之母大阏氏听说后大怒，欲杀李陵。单于心爱李陵勇敢善战，将其藏匿北方，待大阏氏死后才回。单于将自己的女儿嫁给李陵，立之为右校王，从此与卫律一心事胡。卫律居内，李陵居外，都好似匈奴的夹辅功臣了。后人有诗叹道：
孤军转战奋余威，
矢尽援穷竟被围；
可惜临危偏不死，
亡家叛国怎辞讥？