说：“何以如此悲恸?”杨阜说：“守城却又守不住，君长已死而不能同命，我还有什么脸活着呢?马超背叛父辈，背叛国家，烧杀将士，这何止是我个人怕受人指责，全州士大夫都要蒙受耻辱，您带兵专管一方却没有讨杀贼逆之心，这正是史书上所说的‘赵盾弑其君’的情形。马超虽强，却无视信义，部下矛盾重重，所以打败他并非很困难。”姜叙的母亲很感慨，敦促姜叙听从杨阜的劝说。
定下计谋后，又与同乡姜隐、赵昂、尹奉、姚琼、孔信，武都人李俊、王灵等联络结盟，共同讨伐马超，又派从弟谟到冀城告诉杨岳内情，并联络了安定的梁宽，南安的赵衢、庞恭等。盟誓以后，杨阜和姜叙在卤城起兵，马超闻讯后亲自率兵出击，赵衢、庞恭等救出杨岳，关闭冀城大门，抓住马超妻儿。马超袭击历城，抓住姜叙的母亲，姜叙母亲骂道：“你是个背叛父亲的逆子，你是杀害君长的叛贼，天地不容，还不早死，还有什么脸见人!”马超大怒，杀死姜叙母亲，杨阜与马超作战，五处受伤，宗族兄弟死了七人，马超南逃，投奔张鲁。杨阜联合姜叙等人，为故主报仇，把马超势力完全逐出了西凉，完成了曹操在渭水一战，想要达到而没有达到的目的，这样的智谋是不简单的。
杨阜应该是个文官