具有一定文化程度，经常帮助士兵书写家信或帮伙房记账，人缘不错，亦取得了该营统领刘祺的信赖。经刘保荐，冯国璋进入天津武备学堂，习步兵科。
该学堂是直隶总督兼北洋大臣李鸿章，为培养淮军中下级军事人才创办的。聘有德国军事教官，所设课程有兵法、地利、军器、炮台、算法、测绘，并操习炮队，步队、马队、工队及分合阵法，另外还兼学经史。
冯国璋是该学堂第一期学员。在学习期间，他曾回原籍参加科举考试，当时特设数学附生额，因他擅长算术，考中秀才。后返回天津武备学堂继续学习军事。
冯国璋经过刻苦努力地学习，精通枪炮阵式，熟习营垒作业，各科成绩优秀，得到该学堂总办荫昌和德国教官的赏识。
光绪十五年（1889年）七月，冯国璋从该校以优异成绩毕业。当时冯国璋已届而立之年，他不安于现状，想建立军功，出人头地，于是在光绪十九年（1893年）进入聂士成军中效力。
在中日甲午战争前夕，冯国璋曾随聂士成赴东北和朝鲜等地考察和测绘地形。为时半年，跋涉数千里，餐风宿露，历尽艰险。所达之处，对山川要塞均用新法绘图说明，地形地物，了如指掌。所搜集的资料以聂士成之名编成《东游纪程》一