秦汉之际，匈奴冒顿单于杀死其父头曼单于，自立为单于，并且东击东胡，西攻月氏，南并楼烦、白羊河南王，统一了匈奴各部，逐渐强盛起来。
楚汉相争时，由于无暇北顾，冒顿单于利用兵强马壮的优势，直接威胁到汉王朝在中国北部的统治。
公元前200年（汉高祖七年），汉高祖刘邦亲率大军32万征伐叛将韩王信，前锋行进至平城（今山西省大同市东北）时，被冒顿单于率精兵40万围困于白登山（今山西省大同市东北马铺山）达七日之久，虽然汉高祖用陈平之计得以突围，但
“白登之围”后，西汉王朝不得不委曲求全，实行
“和亲”政策，并且每年送给匈奴大批棉絮、丝绸、粮食、酒等，以换取边境的安宁。
西汉王朝在经过汉文帝、汉景帝两代的
“文景之治”后，经济上积累了巨额财富。汉景帝时平定吴楚七国之乱，政治上形成了强有力的中央集权，使汉匈双国的力量发生了巨大的变化。
公元前140年（建元元年），汉武帝刘彻即位后，决定废除屈辱的
“和亲”政策，转而对匈奴实施军事打击。为此汉武帝进行了积极的部署和安排：委派李广等名将带兵镇守边郡要塞，征调士卒巩固边防，同时采取措施鼓励养马。
公元前138年（建元三年），汉武帝派张骞第一次出使西域，希望联合大月氏，夹击匈奴。
经过经济、军事、外交一系列的努力，西汉抗击匈奴侵扰的条件已经成熟。
匈奴派使者向汉武帝请求和亲，汉武帝命群臣商议对策。大行令王恢建议汉武帝拒绝和亲，他说：“过去朝廷同匈奴和亲，匈奴老是不守盟约，侵犯边界，我们应该发兵打击他们一下才好。”而御史大夫韩安国则以匈奴兵强马壮为由，劝汉武帝接受和亲，群臣大多赞同韩安国的观点。
汉武帝最终采纳韩安国的建议，与匈奴和亲。公元前133年（元光二年），马邑地方有个大商人聂壹来找王恢，说：“匈奴在边界经常侵犯，总是一个祸根。现在趁刚跟他们和亲的机会，把匈奴引进来，我们来一个伏击，准能打个大胜仗。”王恢问他：“你有什么办法能把匈奴引进来？”聂壹说：“我经常在边界上做买卖，匈奴人都认识我。我可以借做买卖的因头，假装把马邑献给单于。单于贪图马邑的货物，一定会来。我们把大军埋伏在附近地方，只要等单于一到马邑，将军就可以截断他们的后路，活捉单于。”王恢把聂壹的主意奏告给汉武帝，武帝为此诏命群臣商议。
御史大夫韩安国反对这个建议，他认为高祖刘邦之英武圣明，尚且被匈奴围于平城达七日之久，何况兵马一动，天下骚动，胜负难料，不可轻率出兵。
王恢是燕地人，曾长期在边郡为官，熟谙匈奴情况，在商议中他向汉武帝进言：“战国初年，代国虽小，北有强胡的侵扰，南有中原大国的威胁，君臣尚能同仇敌忾，奋勇抗击外侵；匈奴虽强，也不敢轻易侵扰代国。如今大汉强盛，海内一统，陛下威名远扬，然而匈奴却侵扰不止，每次与汉和亲，不过数年即违背约定，正是因为没有坚决抗击的缘故！”双方唇枪舌剑，各不相让。
汉武帝最终采纳王恢的建议，准备设计伏击匈奴。谋划部署公元前133年（元光二年）农历六月，汉武帝派遣精兵30万，命护军将军韩安国、骁骑将军李广、轻车将军公孙贺率主力部队埋伏在马邑附近的山谷中。
将屯将军王恢与材官将军李息率3万多人出代郡（今河北省蔚县东北），准备从侧翼袭击匈奴的辎重并断其退路，一举全歼匈奴主力。 汉武帝同时派遣商人聂壹前往匈奴诱敌。出塞诱敌聂壹以出塞经商为名，见匈奴军臣单于。