雖然北洋軍曾是袁世凱打江山的主要依靠力量，但在民國建立后其戰斗力卻日益式微。別的不說，僅在“圍剿”白朗起義軍一役中，北洋軍就洋相百出——白朗軍不過幾千人，在很多人看來只是烏合之眾，而北洋軍先后調動了總兵力的三分之二，械齊餉足，懸賞超越常規，但在近兩年時間里，白朗軍仍能縱橫于豫鄂陜甘四省之間，如履無人之境。

馮玉祥的一個記述可以說明為什么會這樣：馮部所部兩個營截擊白朗軍，一仗下來，足足消耗了二十萬發子彈，戰場上中彈而亡的白朗軍官兵卻連兩百多人都不到！

最后，在段祺瑞的統一指揮下，北洋軍才最終消滅了“白狼”，但知曉內情的兵家已經發出了“誰說小站兵力足以威令天下”的慨嘆。

有民國第一軍事家之稱的蔣百里給袁世凱上了一個條陳，認為原因還在于北洋軍隊暮氣太重。

要消除北洋軍的暮氣，最好的辦法就是重起爐灶，編練新軍。過去淮軍繼湘軍，小站繼淮軍，走的都是同一條路子。不過從小站練兵起，為了建立北洋派系，政策上都是重用武備生，屏除士官生，并由此形成了北洋歷來的用人傳統。如今要形成新勢力，就不得不反其道而行之，這就是蔣百里條陳中所說的：中級軍官用士官生，下級軍官用武備生。

蔣百里建議在統率辦事處之下，設立模范師籌備處，模范師以德國軍事方法進行訓練，先練兩師。他的條陳也得到了袁世凱長子袁克定的欣賞和極力贊同。這位袁家大公子年輕時曾到德國留學，崇拜德國，蔣百里重視德國軍事的思想正好與之合拍。

有袁克定在耳邊吹風，袁世凱對建立模范新軍的興趣更加濃厚，但是他認為蔣百里最初設計的規模太大，不容易操作。

要建立兩個師，已經抵得上一個軍了，這免不了會使北洋舊將不安，從而生出事端。老謀深算的袁世凱對蔣百里的方案做了修改，建軍規模最后被縮小到一個團。模范團名為一團，實際已相當于一個混成旅。具體組建方案是，從北洋現部隊中抽調下級軍官充當團的士兵，以中上級軍官及武備生充任團的下級軍官，以士官生充任團的中級軍官。