中国历史上“最强军队”的排行榜，有许多种。其实不在一个朝代，也不可能在战场真正打一次，属于“关公战秦琼”，只能当作娱乐新闻看。但一些军团曾经纵横四海、所向无敌，不论多少年过去，他们的英雄气依然在天地间激荡，让人怀念、崇敬，比如岳家军、戚家军。在东晋，也有这样一支军队，那就是战无不胜、攻无不克的“北府军”，创始人叫谢玄。
谢玄是谢安的侄子。他的母亲叫阮容，和阮籍、阮咸同族;父亲叫谢奕，曾任桓温的司马，谢玄自己也做过桓温的部将。谢玄从小聪明，很受谢安器重。一次，谢安问：我家的子侄并不一定都要出来做官，但为什么还是希望你们能刻苦学习，每个人都有才能呢？大家都愣住了，谁也答不上来。谢玄说：这就好比芝兰玉树，总希望它们生长在自家的庭院里啊。(譬如芝兰玉树，欲使其生于庭阶耳。)谢安听了，大为赞赏。
这就是成语“芝兰玉树”的来历。芝兰指灵芝兰草;玉树是传说中的仙树。后来就比喻成德才兼备有出息的子弟。唐代王勃的《滕王阁序》中有一句为“非谢家之宝树，接孟氏之芳邻。”这是王勃自谦的话，意思是：我虽然不像玉树般的谢家子弟那样优秀，但你们像孟母的好邻居，我有幸能够结识交住。谢安又曾问他：诗经中最喜欢哪句？谢玄答：“昔我往矣，杨柳依依;今我来思，雨雪霏霏。”
这是《诗经》中的名句，出自《诗经·小雅·采薇》，后面还有四句是：“行道迟迟，载渴载饥。我心伤悲，莫知我哀！”这是一个普通士兵，诉说长期在外征战的艰苦、对故乡的思念之情。如果翻译成现代文，就是：回忆当初出征时，杨柳依依随风吹。如今踏上回家路，雨雪纷纷满天飞。眼前的艰难想到了往日的温暖，悲从中来，情感如潮水涌出，让人无限感伤。谢安是性情中人，顿时觉得他和自己很相似。
但谢玄小时候有女人气，喜欢佩带紫罗香囊。谢安不太喜欢这种娘娘腔，直接批评又担心伤他的自尊，想出了一个办法。一次两人玩游戏，谢安说：你如果输了，就把紫罗香囊给我。谢安赢到手后，放在火上烧掉了。谢玄明白了谢安的意思，从此不再佩带这类装饰品。谢玄文武兼备，在桓温、桓豁手下都呆过。桓温曾说：谢玄到了40岁，一定能做军事统帅。
东晋的朝廷一直软弱无能，原因是皇帝始终在做“和事老”，平衡几个大族的关系，打仗基本靠地方军阀。就像一个“名誉主席”，没有实权，要看地方大员的脸色。一旦实力最强的荆州兵造反，建康就吓得发抖，哭着喊着徐、兖二州的军队来救驾。谢安感到深深的痛，枪杆子里面出政权啊，没有嫡系部队，就像现在没钱一样，说话不硬气。他任命谢玄为建武将军、兖州(今东山等地区)刺史、领广陵相、监江北诸军事，后来又兼任徐州(今苏北等地区)刺史。于是，一流的军队“北府军”(又称“北府兵”)就此诞生了。
谢玄到任后，整个广陵(今扬州)和京口聚居着北方的流民，谢玄大规模地招募，日夜操练，威震大江南北的“北府军”正式问世。谢玄手下有七大猛将，最出名的人叫刘牢之。刘牢之字道坚，彭城人，属于武将世家，曾祖父刘羲，特长是善射，任过雁门太守等;父亲刘建，特长是勇猛，做到征虏将军。刘牢之面色紫红，胡须与眼睛长得奇特，他眼睛一瞪，就是凶神恶煞的样子，让人恐怖，会吓一跳。但他并不是一个仅四肢发达的莽汉，为人沉着，有毅力，做事喜欢动脑子。
他一直担任北府军的前锋，领着最精锐的部队，几乎是打遍天下无敌手。谢玄还有一个叔叔叫谢石，也是谢安的弟弟。谢石当时名气不大，但他后来在淝水之战中成了谢玄的领导，两人并肩作战，才暴得大名。他年轻的时候脸上长了毒疮，找到很多医生，试了很多偏方，都治不好。自己相当苦恼，无脸见人。有天夜里，他睡着了，隐隐约约感到有一个动物爬到自己脸上，舔来舔去。第二天早晨醒来后，感觉脸上有点异样，照照镜子，大吃一惊，毒疮竟然痊愈了。只是留下白色的痕迹，所以江湖上人称“谢白面”。
淝水之战前，前秦国内有童谣唱：“谁谓尔坚？石打碎！”意思是：谁说你坚硬，石头就可打碎。引申的意思是：谁能击败苻坚？是石头。桓豁听到这个童谣后，就把儿子的名字中都加个“石”字，比如桓石虔、桓石秀、桓石民、桓石生、桓石绥、桓石康等。但是，淝水之战中，谢石是统领各军的征讨大都督。后来的人一想恍然大悟，这个“石头”原来指谢石啊。这一年谢玄35岁，当时朝廷中很多人反对他任省级高官，认为谢安在走后门，照顾自己的侄子。就在谢安遭到一片非议的时候，有一个人坚定地支持谢玄，可他还是谢家的仇人。
