但是自从胡惟庸谋反一案后，朱元璋感受到了威胁，所以在撤销了丞相制度的同时，也撤销了大都督府的职权，将大都督府改成了五军都督府。
原本的调兵权也归到了兵部，而五军都督府只有统兵权。
而这个统兵权，自土木堡之变后也逐渐式微，兵部权力越来越大，导致了五军都督府最后逐渐变成了养闲人的地方。
在具体的职能划分上，都督府管兵负责打仗、成立军事法庭等，兵部负责军械、考核、作战方针。，
就权力而言，兵部更接近现代的国防部。
而都督府更接近中央junwei.
都督府主战，在有战事爆发的时候选拔将领统兵打仗。
而兵部则负责平时的军队建设以及战时的方略拟定以及军械粮草的筹备等。
下辖车驾司、武库司、武选司、职方司，分别负责养马杂事、军械采购维护、军官升迁考核、战略部署、参谋等职能。
这是军队上层设计。
而在军队设置上，朝廷有京营，地方有卫所。
京营三大营，是大明的精锐部队，属于全脱产的职业野战部队，配备火炮良马，装备精良，待遇丰厚，是大明战斗力最强的部队。
当然，到