“我骑兵虽集，步卒未至，骤战必多杀伤，夜劫之可得志。”徐达采用了常遇春的建议，选精骑夜袭扩廓。“扩廓方燃烛治兵书，仓促不知所出，跣一足，乘孱马，以十八骑走大同。……明军遂克太原。遇春追扩廓至沂州而还。”明军在平定山西后，即平定了陕西。然后用兵东部，保卫北平的侧翼，而北元则东有纳哈出，西有王保保，战争逐渐分为两个战场。
明军攻陷大都后，于第二年六月进行了第一次北伐。由常遇春帅步骑九万出北平，经过会州、锦州、全宁、攻下了开平，元惠宗逃到开平以北的应昌，即现内蒙古达来淖尔湖的西南岸，一代名将常遇春，在完成这次任务后，暴疾卒于回师途中，年仅40。代替常应付东面战场的是李文忠。扩廓此时在西方，可能是作为对明军第一次北伐的牵制，扩廓带军包围了明将张温据守的兰州，明军派出的援军被扩廓全歼，援军首领于光也被杀死。在这种情况下，明军立即于洪武三年一月三日开始了第二次北伐。
在制定进攻方略时，包括名将徐达在内的所有将领，都异口同声地建议大军直扑应昌，逼扩廓从兰州撤兵，可见徐达等人都不太情愿直接与扩廓交锋。但太祖力排众意，命令明军兵分两路，西路由大将军徐达自潼关经西安救兰州，寻机歼灭