袁世凱初以同知分發直隸,周馥方為藩司,言之李鴻章,知其為袁甲三佷也,始稍稍屬以事。及世凱驟貴,交通政府,專北洋兵柄,馥反屈意事之。聞其撫山東時,或持北洋一書來謁,即日接見委要差。其人蓋浮蕩不羈末僚也,藩司以告,馥曰︰“吾亦知其不可,慰帥欲之,奈何?”江西教案起,外務部曰︰“北洋熟外交,得其人以往,必濟。”于是世凱派津海關道梁敦彥往,卒不得要領而還。直隸創公債票,遍張告諭,無應者。日人貪其息,陰出金購之。及粵督請借洋款辦新政,戶部駁之曰︰“洋款流弊多,利權外溢。北洋公債善,可仿行之。”公債之即洋款,部臣非不知之,蓋借是以媚袁也。學堂、警察、新軍皆萌芽天津,各省督、撫承望風旨,派員北上考察,皆采用其章程,如山東、河南、閩浙諸省,見之奏報,可考而知也。