太祖为劲敌。
太祖往葬宽王屋山下，已毕，自北返辽西，常林、韩浩自请从之。遗卫将军印绶于洛，灵帝遣使追而与之。凡三次，乃受。行至赵国，流民多识白马义从，遂尾随从之，至于逾万。太祖不忍弃之，分义从护之缓行而北。至广阳，从者愈多，太祖虑其老弱者众，不耐辛苦，遂改至昌平屯田，于其地立卫将军府、白马义从驻地及私学。与吕范以下皆自劳作，骈手胝足，夙兴夜寐。抑制豪强，清丈田亩，查察隐户，编练什伍，三年而其地大兴。名士沮宗、杜畿、京泽等，俱往投之。
太祖居广阳，闻凉州反复，傅燮殉难，常自喟叹。稍倾，冀州刺史王芬以许攸为使，言废立之事，太祖怒而斥之。及攸走，太祖临星河而叹，左右或知其意，俱劝：“天子昏乱，遂令君侯不容于朝。今天下已叛，而兵不足自守，幽州乡里被君恩德，愿必从之。当安居广阳，率厉义徒，见有道而辅之，以济天下。”太祖大叹：“天子固昏，然关西之乱，傅南容何辜？王芬之悖，冀州百官何苦？兼两地黔首，固多牵累，当有所为。”左右遂止。
中平五年，冬，大将军何进以信与太祖，言失兵权，或碍诛宦事，太祖闻之，自引私兵轻骑至河内，洛中北军、西园多太祖旧部，纷纷来谒。洛中宦官闻