徐达常年在外领兵作战，实际掌握相权的仅李善长一人，李善长称病请假休息，中书省无人管领，朱元璋遂召在陕西参政任上的汪广洋为左丞相。
当时，汪广洋的搭档是右相杨宪。杨宪处事霸道、善于专权，虽然汪广洋的职位在杨宪之上，但他性格“宽和简重”，遇事处处避让，甚至违心依从他，但这样仍不能免去杨宪的嫉恨。杨宪唆使侍御史刘炳弹劾汪广洋，罪名是“奉母无状”，明代标榜以孝治天下，不孝便是大罪，至于刘炳是否真正掌握了汪广洋对母亲不孝的真凭实据不得而知，只知汪广洋并没有辩解、反击。
于是，朱元璋严词斥责汪广洋，将其削职为民，放逐还乡，杨宪感觉处分还不到位，担心他日后咸鱼翻身，便再次向朱元璋奏本，于是处分升级，汪广洋被迁徙到荒僻的海南。这是汪广洋宰相任上的第一次起落。汪广洋被贬，杨宪实际操纵中书省大权，并很快升为左丞，他大肆玩弄权术，“市权要宠”，然而好景不长，李善长弹劾杨宪虚构事实，诬告大臣，陷害同僚，朱元璋很快将其处死。杨宪伏法后，被贬几个月的汪广洋马上被召回，这一年，朱元璋曾大封功臣，汪广洋亦被封为护军忠勤伯，在封伯的诰词中，皇帝称汪广洋“善治繁剧，屡献忠谋，比之子房、孔明”