“党必须非法地工作。”一开始，马林便指出了这一点。
中国共产党是以推翻当时中国的社会制度从而建立社会主义制度为行动宗旨的，当然不合当时中国的“法”。正因为这样，中国共产党“一大”在极端秘密的状态下举行。任何不慎，都将招来全军覆灭的危险后果。
不得不谨慎行事。最初商定，“打一枪换一个地方”，每日更改开会的场所，以免被密探盯住。
不过，除了李公馆之外，已找不出别的恰当的开会场所——不论老渔阳里二号，还是新渔阳里六号，一个是《新青年》编辑部所在地，一个是外国语学社所在地，都是半公开的红色场所。
无奈，只得继续在李公馆开会。不过，马林和尼柯尔斯基不再出席会议，因为两个外国人进出李公馆，毕竟太惹人注意了。
秘密举行的中国共产党“一大”，在7月22日的预备会、23日晚的开幕式之后，经邵维正考证，大约按以下日程继续进行，开会的地点均为李公馆：
日期 会议次数 主要内容
24日 第二次 各地代表报告工作情况
25日 休会 起草党的纲领和工作计划
26日 休会