段祺瑞早年经历显赫，称得上是同时代人中的佼佼者。他读过七年私塾，熟知经史，有较好的国学根底，说起“子乎者也”毫不输人。成年后考入了每期只招收百人的天津武备学堂，这所学校虽然规模不大，但却是近代中国第一所陆军学堂。后来的研究者发现，“中国二十世纪初期历史上的许多重要人物，都是该校培训出来的”。
武备学堂有一门从德国买来的德造火炮瞄准器坏了，没有人会修理。段祺瑞初生牛犊不怕虎，凭着刚从学校学到的一些物理、化学和高等数学知识，加上天赋，经过一番研究琢磨，居然把这门瞄准器给修好了。
段祺瑞的武备学堂毕业成绩是：“最优等。”一年后，政府决定选派数名武备生赴德留学，他再次以第一名的成绩被录取。
在德国，段祺瑞先用一年半时间在柏林军校系统学习理论课程，接着又奉派单独进入当时世界上的第一流兵工厂——克虏伯炮厂深造了半年。
学兼中西，掌握近代战阵之法，尤精于枪炮技术，有如此特长的精英人才，在晚清末造可谓凤毛麟角。可是学成回国后，段祺瑞却被整整闲置了六年之久，所任职务不是军械局委员，就是随营学堂教习，反正是有你不多，没你不少，英雄无用武之地。
受到冷落的不单是段祺瑞一个，绝大多数军校生包括留学归国人员干的也都是此类闲差。原因很简单，因为那时候还没有可供他们发挥才干的新式军队，而在以湘淮军为主的旧军里，将领们多行伍出身，这些人取得功名主要靠实战，对于从军事院校毕业的书斋军官，他们既看不起也不肯加以提拔任用。
直到袁世凯在小站编练新军，段祺瑞及其武备生们等人的命运才终于发生了转折。
新军全面使用西式武器，采用西法编制，进行西法操练。这些正是武备生的长处，武备生由此逐渐成为北洋系的核心。作为武备生中的拔尖人才，段祺瑞在被推荐给袁世凯之后，更是很快得到重用，成为袁氏带兵、练兵的主要助手。
袁世凯既能招揽人才，也能笼络人才，对亲信部属的关照可谓无微不至。比如，段祺瑞第一次赴小站，袁世凯即亲往迎接，礼仪之周到，令人有受宠若惊之感。又比如，段家但凡要办什么大事，只要让袁世凯知道了，他都会额外赠送银票，以壮声色。
某次，段祺瑞在天津一家酒楼宴请其他将领。宴会结束，正准备结帐，酒楼老板却说你不必结了，袁大人已经吩咐过，所有花销都记在他一人帐上……
袁世凯有一个在山东时义结金兰的故人，不幸早逝，其女张佩蘅由袁世凯接来府上照料。袁世凯的夫人于氏只生袁克定一子，无女，便将张佩蘅收为了义女。另外一种说法是，张佩蘅其实是袁世凯的表侄女，从小在袁家长大。不管出身究竟如何，袁氏夫妇视她如同己出是没错的，张佩蘅见到袁氏夫妇也是一口一个爸妈，十分亲热。
后来袁世凯听说段祺瑞的原配夫人病故，就有心作主把张佩蘅许配给段祺瑞。当时武人的社会地位较低，张佩蘅的亲生母亲嫌段祺瑞是武人，女儿又是去当续弦，因此起初对这桩婚姻不太满意。袁世凯给老太太做工作，说段祺瑞是我看中的，你就放一百二十个心吧。
以张佩蘅在袁府如同大小姐一样的身份，段祺瑞迎娶张佩蘅，就等于是做了袁世凯的女婿。从此，袁段二人除了多年的袍泽关系外，无形中又成了亲戚。
