伐援军在猛烈攻打临清之后最终攻占了临清，可得到的仅是一座空城。
北伐援军刚进城，就被清军围得水泄不通。阜城北伐军得知援军被围，于是自突围东去，攻占东光、连城，欲南下迎接援军，恰恰遇上僧格林沁率队赶到，困于连城。
北伐军经协商决定派李开芳率马队突围而出，急行二日，偷袭高唐成功。距临清仅几十里之遥，只可惜援军据守临清数日，见城内无粮草，军心不稳，已于三日前南下弃城而去。这样，原本只有数千人的北伐军，一分为二，势力更弱。
随后，胜保率军将高唐团团围住。留守连城的北伐军，坚持到1855年3月，粮尽失守。林凤祥被俘，3月15日，在北京凌迟处死，僧格林沁因功晋封为博多勒克台亲王。胜保久攻高唐不下，先后受到拔去花翎和革职留任的处分。
连城北伐军被歼后，咸丰帝将胜保解京问罪，令僧格林沁移师进攻高唐。李开芳得知林凤祥部覆没，突围南下，入踞荏平县冯官屯。僧格林沁率队包围冯官屯，久攻不克后，引运河水淹冯官屯。5月13日，李开芳率八十余人突围被俘，被解送北京，6月斩首。
至此，太平军轰轰烈烈的北伐，在清政府动用全国力量的镇压下平息了。咸丰帝