，咸熙中为河内太守。
杨阜字义山，天水冀人也。以州从事为牧韦端使诣许，拜安定长史。阜还，关右诸将问袁、曹胜败孰在，阜曰：“袁公宽而不断，好谋而少决。不断则无威，少决则失后事，今虽强，终不能成大业。曹公有雄才远略，决机无疑，法一而兵精，能用度外之人，所任各尽其力，必能济大事者也。”长史非其好，遂去官。而端征为太仆，其子康代为刺史，辟阜为别驾。察孝廉，辟丞相府，州表留参军事。
马超之战败渭南也，走保诸戎。太祖追至安定，而苏伯反河间，将引军东还。阜时奉使，言于太祖曰：“超有信、布之勇，甚得羌、胡心，西州畏之。若大军还，不严为之备，陇上诸郡非国家之有也。”太祖善之，而军还仓卒，为备不同。超率诸戎渠帅以击陇上郡县，陇上郡县皆应之，惟冀城奉州郡以固守。超尽兼陇右之众，而张鲁又遣大将杨昂以助之，凡万余人，攻城。阜率国土大夫及宗族子弟胜兵者千余人，使从弟岳于城上作偃月营，与超接战，自正月至八月拒守而救兵不至。州遣别驾阎温循水潜出求救，为超所杀，于是刺史、太守失色，始有降超之计。阜流涕谏曰：“阜等率父兄子弟以义相励，有死无二；田单之守，不固于此也。弃垂成之功，陷不义之名，阜以死守之。”
遂号哭。刺史、太守卒遣人请和，开城门迎超。超入，拘岳于冀，使杨昂杀刺史、太守。
阜内有报超之志，而未得其便。顷之，阜以丧妻求葬假。阜外兄姜叙屯历城。阜少长叙家，见叙母及叙，说前在冀中时事，歔欷悲甚。叙曰：“何为乃尔？”皋曰：“守城不能完，君亡不能死，亦何面目以视息于天下！马超背父叛君，虐杀州将，岂独阜之忧责，一州士大夫皆蒙其耻。君拥兵专制而无讨贼心，此赵盾所以书弑君也。超强而无义，多衅易图耳。”叙母慨然，救叙从阜计。计定，外与乡人姜隐、赵昂、尹奉、姚琼、孔信、武都人李俊、王灵结谋，定讨超约，使从弟谟至冀语岳，并结安定梁宽、南安赵衢、庞恭等。约誓既明，十七年九月，与叙起兵于卤城。超闻阜等兵起，自将出。而衢、宽等解岳，闭冀城门，讨超妻子。超袭历城，得叙母。叙母骂之曰：“汝背父之逆子，杀君之桀贼，天地岂久容汝，而不早死，敢以面目视人乎！”超怒，杀之。阜与超战，身被五创，宗族昆弟死者七人。超遂南奔张鲁。
陇右平定，太祖封讨超之功，侯者十一人，赐阜爵关内侯。阜让曰：“阜君存无扦难之功，君亡无死节之效，于义当细，于法当诛。超又不死，无宜苟荷爵禄。”太祖报曰：“君与群贤共建大功，西上之人以为美谈
