建元六年武安侯田蚡做了丞相，韩安国被提升为御史大夫。匈奴派人前来请求和亲，汉武帝令由大臣们讨论来决定。大行令王恢是燕地人，多次出任边境各郡的官吏，熟悉匈奴情况。他建议说：以前汉朝与匈奴和亲，但过不了几年匈奴就背弃盟约，出兵袭击我汉朝边民。不如不答应，直接派兵攻打他。
御史大夫韩安国说：派军队去千里之外作战，很难取得胜利。现在匈奴倚仗军马充足，怀着禽兽般的野心，迁移迅速如同群鸟，很难控制他们。即使得到他们的土地，也不算是扩大了我们的疆土，拥有他们的百姓也不能使我们强大，从古至今就没有把他们视为中国人。
汉军千里迢迢去与匈奴争夺利益，就会人马疲惫，我们的弱点就会暴露，匈奴就会全力以赴来攻击我们的弱点。强弩之末，矢不能穿透鲁缟，强风之末，力不能漂鸿毛。不是说开始的时候不强劲，而是到了最后力量衰减完了。发兵攻打匈奴有很多不确定因素，不如跟他们和亲。
参加讨论的大臣多数赞同韩安国的和亲策略，汉武帝就同意了与匈奴和亲。
大行令王恢提出的与匈奴和亲过不了几年，匈奴就会背信弃义袭击汉朝边民，不如不答应与匈奴和亲，直接发兵攻打他。匈奴也是欺软怕硬，不打服了他，汉朝边境永无安宁之日。虽然汉武帝同意了与匈奴和亲，但大行令王恢并没有放弃用武力解决汉、匈边境问题，他要用钓鱼的方式来吸引匈奴上钩。
与匈奴和亲第二年，大行令王恢把他的钓鱼计划向汉武帝做了汇报，汉武帝觉得可行，就准许了王恢的这个诱敌深入计划。大行令王恢暗中派遣聂翁壹做间谍，逃到匈奴对单于说：我能杀死马邑城的县令、县丞等官吏，将马邑城献给你，城中的财物也可以全部得到。
单于贪心就相信了他，认为他说的有道理，便答应了聂翁壹。聂翁壹回来，斩首了几个死囚犯，把他们的脑袋悬挂在马邑城上，假称是马邑城官吏的头，给单于派来的使者看，说道：马邑城的长官都死了，你们可以赶快来吧！
单于信以为真，率领十余万骑兵穿过边塞，进入武州塞。
此时汉王朝已埋伏了二十万大军，隐藏在马邑城旁边的山谷中。卫尉李广担任骁骑将军，太仆公孙贺担任轻车将军，大