，不久就有数十只黄雀飞进屋帐内，王祥得以给母亲吃。邻居都惊叹这是王祥的孝道感动上天。还有一次，王祥在另外一张床上睡觉，他的后母朱氏暗自过去想杀害他。恰好碰上王祥起床小解去了，只空砍得被子。不久，王祥回来后，知道朱氏对这件事很懊丧，便跪在她面前请求处死自己。朱氏因此深受感动而悔悟过来，从此像对亲生儿子那样对他。
汉末大乱，天下未定，王祥一直避世不出，带着后母和弟弟在庐江隐居，一直到天下相对安定，北方一统于魏的时候，王祥才接受了州郡官员的举荐，出任徐州别驾。别驾是一个州的主要属官。王祥上任时，已经年过六十了，积累了大量的人生经验。当时的徐州地区因为是曹魏和东吴争夺之地，双方军队彼此攻伐，地方治安很差，盗贼趁机作乱。王祥让士兵们看到杀敌带来的丰厚回报，以军功激励士兵，士兵都冲锋在前，快速剿杀了各地盗贼。整个徐州于是获得了难得的安定。当时徐州的百姓就写了一首歌，去歌唱王祥，叫做：“海沂之康，实赖王祥。邦国不空，别驾之功。”
王祥，在之前的三十年为何隐居？因为天下未定，出来当官，不知道主子究竟是谁。并且，汉末魏晋时代，是靠着举荐制度出仕的，开始往往只是郡县官员举荐，级别比