李密自从击败了张须陀后，声名远播，威望已经远在翟让这个大当家之上了，而翟让也十分识趣，在多方暗示和劝说下主动退位让贤，推举李密为瓦岗军的首领。
李密假意辞让，最后在翟让的坚持之下，终于“免为其难”地答应担任瓦岗军的首领，今年二月份的时候，李密在巩县城南郊外设立祭坛，祭天登位，自称魏国公，以洛口为都城，年号称作永平元年，下发的文书落款为行军元帅魏公府。
随即，李密任命了亲信房彦藻为左长史，邴元真为右长史，杨得方为左司马，郑德韬为右司马，又任命单雄信为左武侯大将军，祖君彦为记室参军，其余的人各按等级授予官职。
而对于有拥立之功的翟让，李密也投桃报李，封了他为司徒，秩正一品，并加爵东郡郡公。
李密的确是个十分了得之人，当上了瓦岗军的老大后，终于可以大展拳脚了，先是击败了越王杨侗派来进攻瓦岗的大将刘长恭，接着又夺下了兴洛仓和回洛仓，虎牢关守将裴仁基由于受到朝廷猜忌，干脆也献关投降了李密。
至此，李密已经扫清了进兵东都洛阳的所有障碍，七月份兵围洛阳，而这个时候李渊也在太原起兵，加紧进攻关中，随后杨广派了王世充救援东都。