南京临时政府成立，清翰林出身的蔡元培被委任为教育总长。后来唐绍仪内阁辞职，蔡元培亦请辞。袁世凯挽留他说：“我代表四万万人留君。”蔡元培去意已决，对曰：“元培亦对四万万人之代表而辞职。”袁死后，“德有余而才不足”的黎元洪接任大总统，却也干了几件好事，比如大力恢复了议会与被取缔的政党，大力压缩总统府预算，倡导并力行“好人政府”，其中还包括任命蔡元培为北京大学校长。
1916年底，蔡元培就任北大校长，开始对北大进行改革。1917年，陈独秀刚满38岁，胡适26岁，钱玄同30岁，刘半农28岁，鲁迅36岁，李大钊29岁，蔡元培49岁。同年，林纾已经65岁，严复63岁，辜鸿铭60岁，段祺瑞53岁。北大的新旧之争也就不奇怪了。蔡先生曾自述道：“我对于各家学说，依各国大学通例，循思想自由原则，兼容并包。无论何种学派，苟其言之成理，持之有故，尚不达自然淘汰之命运，即使彼此相反，也听他们自由发展。”在此办学理念之下，他的第一个举措，就是宣布聘任陈独秀为文科学长。守旧派对蔡元培的此项任命颇为不满，认为陈只会作几篇策论式的时文，连在北大任教尚且不够格，何以能主持文科？蔡只说：“当代学者人格之美，莫如陈独秀。”后来陈独秀进了国民党的监狱，在押期间，《独秀文存》第九版出版，蔡元培甚至还为这个在押的共产党要犯写了序。
蔡元培掌北大不久，想请梁漱溟来北大讲印度哲学。梁当时24岁，中学毕业，于是自谦学浅，不敢应承。蔡元培反问：“你说你教不了印度哲学，那么，你知道谁能教吗？”梁说不知道。蔡说：“还是你来吧！你不是爱好哲学的吗？我此番到北大来，定要把许多爱好哲学的朋友都聚拢来，共同研究，互相切磋，你怎可不来呢？你不要当是来做老师、教别人，你当是来合作研究、来学习好了！”梁于是不再推辞。
蔡先生“思想自由，兼容并包”的办学方针，连一些守旧派人物都不得不佩服。脑后拖着辫子的辜鸿铭曾在课堂上对学生讲：“中国只有两个好人，一个是蔡元培先生，一个是我。因为蔡先生点了翰林之后不肯做官就去革命，到现在还是革命;我呢，自从跟张文襄做了前清的官员以后，到现在还是保皇。”笑谈中自有真意。蔡先生“思想自由”到何种程度？且看一例：周策纵在《五四运动史》一书中引蔡元培的话说：“教员中间有喜作侧艳之诗词，以纳妾狭妓为韵事(以纳妾为韵事的有辜鸿铭，刘半农等，咏妓的有陈xx，黄侃等，后来又有吴虞。陈尤喜涉花柳)。以赌为消遣者，苟其功课不荒，并不诱学生而与之堕落，则姑听之。”连这事都可“则姑听之”，难怪辜鸿铭称蔡先生“好人”。
蔡先生一生最大功绩，是为五四新文化运动护法。蔡元培是一个“文化救国论”者，时常讲“读书不忘救国”，同时又强调“救国不忘读书”。1919年5月2日，巴黎和会传来最新消息，战败国德国要将在山东的权益转让给日本。蔡元培得知后，立即返校告诉了北京大学的学生领袖许德珩、傅斯年、罗家伦、段锡朋等人。北京的大学生们激愤了，马上集会游行并火烧了赵家楼胡同曹宅。五四运动爆发后，大批学生被军警捕去，蔡元培全力营救，随后递交了辞呈，悄然离京。他写道：“吾倦矣！‘杀君马者，道旁儿。’‘民亦劳止，汔可小休。’我欲少休矣！北京大学校长之职，已正式辞去;其他向有关系之各学校、各集会，自五月九日起，一切脱离关系。特此声明，惟知我者谅之，蔡元培启。”这一纸声明颇可玩味。他一方面对政府卖国无能、拘捕学生表示不满，认为学生们“出乎爱国热情，实在无可厚非”;另一方面，作为一校之长，他又担心学生们“很可能为胜利而陶醉”，“今后将不易维持”学校纪律。(蒋梦麟《北京大学与学生运动》)6月15日，蔡元培发布《不愿再任北京大学校长的宣言》，文中说：“我绝对不能再作不自由的大学校长：思想自由，是世界大学的通例。”后来，在北京各大专学校校长的声援下，加之北大师生代表的苦劝，蔡先生始回校，答应只做北大师生的校长。
蔡曾讲：“道德之精神在于思想自由。”他一生践行此言。1949年后，钱端升还发表文章说：“北京大学的自由散漫，蔡元培先生是要负一部分责任。”蔡先生门生满天下，每逢五月四日，在京诸生必盛宴而奉先生为上座，年年如此，先生颇惫苦之，一次戏语邻席曰：“吾辈此日真成吃‘五四’饭矣！”
1940年3月3日，蔡元培在香港寓所失足跌倒，次日入养和医院治疗，因胃部出血过多，于3月5日病逝，享年七十三岁。十日举殡，香港各学校及商号下半旗志哀，学校及社团万余人参加公祭，极尽哀荣。蔡先生灵柩初厝东华义庄，待运回浙江绍兴故里安葬，但因战事熛起，未能成行，于是这位“五四”元老、新文化的保姆长眠于香江。他的遗言仅为两句话：“科学救国，美育救国。”
