没有强大军队的国家是不完整的，没有出路的，对汉朝这种内有诸侯国，外有夷戎的情况，更是如此。
然而汉朝时期的军队，也跳脱不开自古以来的守制，主要由中央统辖的军队、郡县王国的地方军队和边防部队组成。
不过事实证明，这种三军分配制，是不可避免的，也是维系国家稳定的必要配置。
其中中央统辖的军队包括京师诸军和战略要地的屯兵，而真正由中央统辖的军队为京师诸军。
京师诸军在西汉中期以前，也就刘彻之前，根据任务不同而分为三部分：一是郎中令统领的皇帝侍卫部队，二是卫尉指挥的皇宫卫队，称南军。三是中尉统御的京师卫戍部队，称北军。
像程不识掌握的，就是长乐宫的卫队，而李广在去上郡前，做的是未央卫尉，就是掌管未央宫的卫队，又如郅都从边塞雁门回来前后，做的就是北军的中尉，另外负责长安城的“刑事案件”。
南北军训练有素，强化了京师治安，又因隶属系统各异，避免了其合兵反叛，南北军制度是秦汉军制的一大特点。
刘彻近些天来，为了确保京师地区的政局稳定，也为了安置将士们的遗孤，在南北军制度的基础上，重新整编了京师诸军。