民族地区，曹操就想收兵。杨阜这时就认为应该多派兵驻守陇上郡县，防备马超带着少数民族士兵来袭击，曹操也想如此，无奈分兵乏力，只能作罢，只在当地留下杨阜。后来马超果然率领万于少数民族士兵来攻城，此时杨阜手里只有千余人，但还是竭力守城，这场仗打了八个月，援兵还没有到，被派出求救的别驾阎温也被马超所杀，这真是叫天天不应，叫地地不灵，城里的刺史和太守终于崩溃，准备投降。
杨阜苦劝没有用，发出了一声感天动地的叹息：“阜等率父兄子弟以义相励，有死无二，田单之守，不固于此也。弃垂成之功，陷不义之名，阜以死守之。”白话的意思就是，“我杨阜率领着父兄子弟，凭着一股义气守城，虽然死也不会变节。当初齐国田单守得即墨城，并不比这里更坚固啊，现在功败垂成，我也陷于了对国家不义的境地，老天啊，我可是以死守城啊。”以此可见杨阜的投降是多麽的委屈，这也就是二人仇恨的由来。
马超进城后，把杨岳抓起来，又让杨昂杀死刺史和太守，杨阜内心怀着复仇的志向，只是一时寻不着机会。不久杨阜告假，请求埋葬亡妻，杨阜的外兄姜叙屯兵历城。杨阜从小在姜叙家长大，他见到姜叙和叙母之后，叙说了冀城陷落的经过，悲泣不已。姜叙