春，上令大将军青、票骑将军去病各五万骑，步兵转者踵军数十万……行二百余里，不得单于，颇捕斩首虏万余级，遂至窴颜山赵信城，得匈奴积粟食军。军留一日而还，悉烧其城余粟以归。

——《汉书·卫青霍去病列传》

自汉匈开战以来，历经数年血战，匈奴右贤王损失可谓惨重，不仅其本部损失极大，随着浑邪王、休屠王的战败归降，河西地区随之落入汉朝手中，而西域也随时有脱离右贤王统治的风险。如此情形下，龟缩于匈奴右地科布多和乌里雅苏台一带的右贤王，已经基本丧失了与汉朝对抗的能力，西汉都城长安来自西部和西北部的威胁基本被解除。

不过，右贤王虽败，但伊稚斜单于本部和左贤王部却仍然拥有着相当的实力。尤其是伊稚斜单于，自定襄北之战后，他听从降将赵信的建议，将单于庭北迁，本是企图“诱罢汉兵，缴极而取之”，却没料到汉武帝在北部压力减轻后竟然转攻河西，趁机占领了河西走廊，导致匈奴的诱兵之计落空。

得知汉朝占据河西之后，恼羞成怒的伊稚斜单于，于元狩三年（前120年）春大举出兵，南下侵扰右北平和定襄两郡，企图借此激怒汉武帝，诱使汉军北进，进而实现以逸待劳歼灭汉军的目的。

接到边关奏报，汉武帝虽然恼怒于伊稚斜单于的再度南侵，但由于当时朝廷正忙于安置内附的浑邪王所部，改革财政缓解朝廷财政压力等事务，对此根本无暇顾及。

直到元狩四年（前119年），随着浑邪王所部安置完毕，朝廷的一系列财政改革措施也在逐步落实。在筹集了大量资金后，朝廷的财政压力得到极大缓解，再加上经过了两年的休养生息，汉朝已经重新具备了发动战争能力。

鉴于匈奴单于本部和左贤王部仍然具相当实力，并严重威胁汉朝北部边疆安全的现实，汉武帝最终做出了大举出兵漠北的决定。

为此，汉武帝召集众将商议出兵事宜，经过缜密磋商，考虑到汉军经过多次实战锻炼，已经积累了使用大规模骑兵长途奔袭的作战经验，汉武帝与众将最终制定了一个集中兵力、深入漠北、寻歼匈奴主力的大胆作战计划。

为了鼓舞士气，汉武帝对众将说道，“翕侯赵信为单于出谋划策，认为汉朝的士卒不能穿越沙漠，长期留在漠北作战，正因如此，我们大军出征必能攻其不备，克敌制胜。”

按照汉武帝拟定的计划，汉军将兵分两路，其中由霍去病率部出定襄，北上进攻单于庭；由卫青领兵出代郡，攻打左贤王。

然而，就在汉军出发前，在漠南抓到的几个匈奴俘虏却交代说，伊稚斜单于并不在单于庭，而是向东前往了左贤王处，于是汉武帝便又调整了两路大军的部署，改命霍去病率骑兵五万出代郡，直取匈奴左地，攻打左贤王及伊稚斜单于，而以卫青率另外五万骑兵出定襄郡，直取漠北的匈奴单于庭，彻底摧毁伊稚斜单于本部。

为了确保取胜，彻底解决伊稚斜单于和左贤王部给汉朝北部边疆带来的安全威胁，这次大规模北征，汉武帝不仅下令调集了十万骑兵，为了防止长途奔袭战马损失，更是为此调集了公私之马十四万匹随军出征，同时还抽调了数十万步兵和转运夫运送后勤物资，确保前线大军补给。

西路军方面，以大将军卫青为主帅，郎中令李广为前将军，太仆公孙贺为左将军，主爵赵食其为右将军，平阳侯曹襄为后将军，此前在“第二次河西之战”中因贻误战机被削爵为民的公孙敖，亦被授予校尉之职，跟随卫青出兵北上。

战前，李广多次向汉武帝主动请缨，汉武帝念其年老，担心其身体不堪长途奔袭之重负，多次予以拒绝。然而，对于李广这个从军四十载，征战了一辈子的将领来说，此生最大的遗憾便是没能拜将封侯，他也知道自己年事已高，如果错过了这次漠北之战，不知道还有没有机会参加下一次战争了。因此，即便屡次被拒，李广还是坚决请求随军出征，汉武帝实在拗不过，这才同意他出任前将军。

得知汉朝大军北上，伊稚斜单于亦立即召集军队，与将领们研究迎敌对策，降将赵信为其出谋划策道，“汉朝大军远道而来，就算穿过大漠，兵马必然也已经十分疲乏了，我们不妨将部众辎重转移到更远的北方，防止汉军夺取补给，再将精兵布置于沙漠北部以逸待劳，必可一战将其击溃。”伊稚斜单于认为此计甚妙，遂按照其建议部署。

卫青率军北进之后，从抓获的匈奴散兵口中得知，伊稚斜单于在得知汉军北上后，已经率部自左贤王处返回，如今正在单于庭。