昌监修两湖书院，旋又因上呈不合程式而被斥。遂赴南昌知府曹朗川幕下，一八九一年报捐县丞，被任命为巡捕。
同年赴安徽，充支应局兼报销差，一八九三年负责皖南缉捕营。一八九四年辞职赴沪，开设祥园烟馆和桂仙戏院，成为上海滩的著名地痞流氓。
一九零六年因涉嫌敲诈及私通巨匪范高头，被驱逐出租界。他逃往苏州，捐一候补知县，并被袁世凯之族弟袁干卿委任为督练公所科长，后又打算让他当印刷局提调，引起舆论哗然。在汪钟霖为首的士绅的抗议与控诉下，应桂馨遭到通缉而逃走，藏匿于老家鄞县。
在声名狼藉的另一面，应桂馨还一直暗中支持反清革命。他在一八九四年任皖南捕营管带时曾抓获革命党人龚照，反而被其感化，决定弃官投身革命事业，多次秘密接济革命党人。
辛亥革命时参与上海光复，被沪军都督陈其美委任为谍报科长，孙中山来沪时负责照料，并护送孙中山至南京就任临时大总统。孙中山任命应桂馨为总统府卫队司令，后兼庶务长。应桂馨“办菜每席开支银五元，后减至一元，菜与五元相等”，被总统府发觉后即遭斥革。
一九一二年七月一日，应桂馨纠合青帮、红帮等江湖势力，成立了中华国民共进会，自任会长。然