为了更快的能够帮助到兄弟们解散时产生的巨大压力，张重忠决定马上攻打桐城。哪知道一开始，桐城守备钱穆就开始准备坚守不出，以至于围攻县城近十四昼夜，虽然张秉忠四处宣扬“必破桐”，最终因城防太过坚固而未克敌。次日，张秉忠领兵再度攻城，并将大本营设于县城西山之上。义军又垒高台摔石火油，下面进行掘进隧道的文法，采取立体围攻战术，然而终因守军炮火密集、箭如飞蝗，攻城未克。张秉忠对桐城县城久攻不下，抱撼之至，遂率部远离此境。自此之后这桐城，便有了“铁打桐城”之誉。
这次桐城大败之后，重新整顿军务。张秉忠将各营带长的士卒都叫道自己帐下，与他们讲清道理，分清当下的情景。如若再去硬拼攻城，势必灭亡；若想迅速崛起，只有铁血杀戮。为了这项上的好大一颗头颅，还可以吃得上饭、睡得好觉，能为穷苦的老百姓说的上话，亦能为天道争一个不公。必须进行铁血杀戮，但是万万不能骑在穷苦的老百姓上作威作福，因为他们太苦了，我们之所以举起义旗在一起，也是为了他们能过上好日子。今后我们沿途经过，犹如蝗虫过境一般；但凡抵抗者必杀之，只劫富不济平，迅速找到一个休养之地扩充自己的队伍。沿途若遇见山匪流寇，只要降则不杀，