“马邑之谋”标志着汉匈关系的完全破裂，汉匈之间最后的一点温存面纱也被撕破，从此，拉开了汉匈对抗的帷幕。

随后，汉匈双方的军事接触逐渐增加。汉朝对匈奴战争的军事战略大体经历了四个阶段：第一阶段是斩首型的，就是王恢和聂壹提出的诱致单于而擒之的马邑之谋，然而未能成功。第二阶段是应对型的，就是在匈奴每次入边汉都试图对其予以打击。

第三阶段是学秦型的，就是学习秦蒙恬的成功经验，夺取和经营新秦中要害之地。第四阶段才是断右臂型的，就是夺取匈奴人所占有的河西走廊和西域，抄其府库，彻底解决匈奴问题。

第二阶段应对型的对匈军事战略，其实是文帝和景帝时都在实行的消极战略，对汉武帝来说，则是在尚未找出最佳战略方案前的临时措施。元光六年(前年)春，匈奴兴兵南下，前锋直指上谷(今河北怀来东南)，一路掳掠人口牲畜粮食。为此，武帝派公孙贺、公孙敖、李广等各率万骑出击。与这些老将同时率兵击匈奴的还有年轻的车骑将军卫青。

卫青，字仲卿，河东平阳(今山西临汾西南)人。其母卫媪，在武帝姊平阳公主家做女仆，生有一男三女，即儿子长君，长女君孺、次女少儿、三女子夫。丈夫死后，卫媪与同在信阳侯家中做事的县吏郑季私通，生了卫青和卫步广兄弟。

卫青出身贫贱，曾经牧过羊，因是其母的私生子而受到歧视，“先母之子皆奴畜之，不以为兄弟数”。卫青在这样的环境下成长，受尽了屈辱和磨难，在他的性格形成上打下了深深的烙印。建元二年(前年)春，卫青的姐姐卫子夫被汉武帝选入宫中，卫青因此被召到建章宫，成为武帝的亲信侍从。子夫成为武帝夫人后，卫青擢为太中大夫，成为贵戚，这是卫青命运的一大转折点。

在元光六年的这次军事行动中，汉武帝果断地任命卫青为车骑将军，迎击匈奴。初次与匈奴交战，卫青就崭露锋芒，脱颖而出，表现了杰出的军事才能。

同时出击的几路大军中：骑将军公孙敖率万骑出代郡(治代县，今河北蔚县东北)，为匈奴所败，伤亡士卒七千;骁骑将军李广率万骑出雁门(治善无，今山西右玉城南)，遇匈奴大军，寡不敌众，全军覆没，李广被俘后逃归;轻车将军公孙贺率万骑出云中(治今内蒙古托克托县)，不见匈奴，无功而返。而卫青率万骑出上谷(今河北怀来东南)，至龙城(今多伦附近)，斩获匈奴七百余人而还。四路大军独卫青有功，原因在于卫青主动寻击匈奴，这在战术上有重大意义。卫青的崛起更是此战最大的收获。

在失利面前，汉朝从皇帝到大臣都在反思，寻求打击匈奴的最佳方案。元朔二年(前年)中大夫主父偃提出学习秦朝成功经验经营朔方的建议。他说：“朔方地肥饶，外阻河，蒙恬城之以逐匈奴，内省转输戍漕，广中国，灭胡之本也。”汉武帝发现主父偃的意见很有道理，攻占朔方之地，不仅控制了匈奴的要害之地，还能利用其肥沃土地生产粮食，减少内地向边地运输粮草的麻烦，是消灭匈奴的关键一着。于是不顾丞相公孙弘的反对，“竟用主父计”。

元朔二年春，汉武帝“令车骑将军(卫)青出云中以西，至高阙。遂略河南地，至于陇西，捕首虏数千，畜数十万，走白羊、楼烦王。遂以河南地为朔方郡。使青校尉苏建筑朔方城”。这是汉武帝继位以来，第一次在河套和陇西用兵，取得了战略性的突破，改变以往分路出兵的战术，集中优势兵力，攻敌之一点。

汉武帝派遣的是卫青和李息两位将军，而且，在军队行进中实行迂回战术。大军从云中(今内蒙古托克托东北)出发，沿黄河边向西，一直打到河套西北部的战略要地高阙(今内蒙古临河县北的狼山口)，又转向南，渡河打击匈奴蒲泥王、符离王的势力，直抵陇西郡治所狄道(今临洮)。

汉军收复了河南之地，清除了河套南至陇西的匈奴势力，斩杀了余级轻锐骑兵，捕获了侦察兵(伏听者)名，夺得马牛羊百余万头只，而自己“全甲兵而还”，获得自汉初以来对匈作战的一次大胜利。汉武帝高兴地下诏表彰卫青的巨大功勋，益封青三千八百户。既以此炫耀汉军之大胜，又振奋了汉朝上下的人心。

根据主父偃的建议，武帝随即命令卫青部下的校尉苏建(苏武的父亲)带领10万人建筑朔方城(今内蒙杭锦旗北)，作为汉朝在河套地区的军事基地。同时，以朔方城为治设朔方郡，以九原(今内蒙古包头西)为治设五原郡，以管理东西千余里的广大河套地区。

还重新修缮秦时所筑边塞，作为对付匈奴侵扰的防御手段。同年夏，朝廷招募10万百姓迁徙到朔方郡，以充实和开发当地，巩固了对河套地区的控制，获得了反击匈奴的前方基地，解除了匈奴对关中的威胁。从此，汉王朝在同匈奴战争中的不利形势开始发生改变，昔日匈奴刺向汉廷的利刃，成为汉军反击匈奴的长戟。

匈奴不甘心河南之战的失败，先后出动骑兵袭扰代郡、雁门、定襄及河南地，企图夺回河南地。

汉武帝决定狠狠地反击匈奴，于是发起漠南战役，时在元朔五年(前年)春。车骑将军卫青受命率3万骑兵从高阙出发，打击匈奴右贤王;李息等人出兵右北平(今河北平泉北)，牵制单于和左贤王，策应卫青主力军的行动。卫青部急行军六七百里，越过阴山，乘夜包围了右贤王的老巢。醉酒的右贤王闻讯大惊，狼狈北逃。汉军俘虏右贤王部下1.5万余人，裨将10多人，牲畜数十百万，凯旋归师。汉武帝得到战报，大喜，派使者持节在军中拜卫青为大将军。

这一胜利，进一步巩固了朔方要地。元朔六年(前年)二月和四月，大将军卫青两度率骑兵出定襄(今内蒙古和林格尔西北)，前后歼灭匈奴军队1万多人，扩大了对匈奴作战的成果。

然而，四月的战役中，右将军卫尉苏建和前将军赵信率领的骑兵，却与单于军遭遇，作战失利，全军几尽，苏建只身逃回，赵信投降匈奴。赵信受到单于信任，被封为自次王，他教单于改变策略，远离汉境，率匈奴主力退到漠北一带，再以小股骑兵骚扰边境地区，引诱汉军长途行军寻找匈奴主力，在汉军疲劳时，再伺机打击。于是“其后，匈奴比岁入代郡、雁门、定襄、上郡、朔方，所杀略甚众”。