处处排斥不是淮西派的官员。朱元璋虽靠淮西势力起家，但也要笼络更多的人才为自己服务，他更怕淮西集团势力膨胀威胁皇权，这就造成了朱、李间的矛盾，也埋下了李善长悲剧的伏笔。
胡惟庸为相后，大权在掌，专行横断，明太祖以擅权、植党、枉法等罪状杀了胡惟庸，接着大兴党狱，株连三万多人。虽然没有追究李善长，但对他的怀疑、不满却与日俱增。“反臣”胡惟庸的脑袋早已“搬家”多年，突然有人跑出来，揭发李善长的弟弟李存义父子“实为胡党”，尽管圣恩仍如雨露，说“免死吧”，但对李善长来说显然已危机四伏。
已经77岁的李善长修房子，向信国公汤和借士兵300人干私活，汤和没同意还奏了一本，该年，李善长又为一个犯了罪的叫丁斌的亲戚求情，按照常理，这在当时本来是一件并不大的事情，可不知何故又闹到了朱元璋那里。皇帝下令审讯，而这个丁斌过去曾在李善长家服务，很奇怪，他没有就事论事，交待李丞相是怎样为他请托免罪的，却直往心惊肉跳的事上扯，即李善长家族与胡惟庸的瓜葛。
于是，朱元璋命令将李存义父子投入大牢，谁曾想，一拷问竟审出了胡惟庸谋反前，多次拉拢李善长的事，虽前两次都被拒绝，后来李善长弟弟李