公元179年出生
建安十三年(208)，曹操辟司马懿为文学掾。历任黄门侍郎、议郎、丞相东曹属、丞相主薄等职。
建安二十年(215年)，随曹操征讨张鲁。
建安二十四年(219)，曹操进封魏王后，司马懿为太子中庶子，佐助曹丕。不久，转为丞相军司马。
延康元年(220年)，曹操去世，司马懿管理丧葬诸事。同年，曹丕即魏王位，司马懿受封河津亭侯，转丞相长史。次子司马昭同年，曹丕登皇帝位，任命司马懿为尚书，不久转督军、御史中丞，封安国乡侯。
黄初二年(221年)，免去督军官职，升任侍中、尚书右仆射。黄初三年(222年)，和黄初五年(224年)，曹丕两次伐吴，都以司马懿镇守许昌，并改封司马懿为向乡侯。
黄初六年(225年)春二月，转任抚军大将军、假节，领兵五千，加给事中、录尚书事。
黄初七年(226年)五月，曹丕去世，令司马懿与曹真、陈群、曹休为辅政大臣。八月，孙权出兵攻魏。司马懿击败诸葛瑾，并斩杀吴将张霸，斩首千余级。十二月，升任骠骑将军。
太和元年(227年)六月，明帝命司马懿驻扎宛城，加督荆、豫二州诸军事。
太和二年(228年)正月，司马懿擒斩孟达，传首京师，俘获万余人。
太和四年(230年)，司马懿任大将军、加大都督、假黄钺，与大司马曹真一起伐蜀。八月，司马懿从西城沿沔水直达朐腮，克新丰县，驻军丹口，后遇雨班师。
太和四年(230)，上表倡议建立上邦军屯。
太和五年，都督雍、凉二州诸军事，开始主持对蜀的战争。青龙二年(234年)二月，蜀丞相诸葛亮率军10万出斜谷攻魏，司马懿率军渡渭水，背水筑垒阻击。两军对峙。五月，吴军10万三路攻魏，以配合蜀军作战。魏明帝派秦郎率2万人援司马懿，自率主力反攻吴军。七月，吴军撤走。八月，司马懿与诸葛亮相持百余日。诸葛亮当月病故于五丈原军中，蜀军撤走。
青龙三年(235年)，司马懿升任太尉。
景初二年(238年)正月，司马懿率牛金、胡遵等步骑四万征公孙渊，破襄平。屠戮七千多人筑京观。
景初三年(239年)正月，司马懿与曹爽一起接受遗诏辅佐少主曹芳。司马懿任侍中、持节、都督中外诸军、录尚书事，和曹爽共执朝政。
正始二年(241年)四月，孙权攻魏，六月，司马懿统军增援，吴军退。与邓艾筹划在淮南淮北创建军屯。七月，增司马懿食郾、临颍，前后共四县，食邑万户，子弟十一人皆为列侯。正始四年(243年)九月，司马懿在率军征吴。
正始八年(247年)，五月，司马懿伪装生病，不问政事。
嘉平元年(249年)春正月，司马懿杀曹爽及其党羽何晏、丁谧、邓扬、毕轨、李胜、桓范等，并灭三族。
嘉平三年(251年)四月率军讨伐王凌。
嘉平三年(251年)八月，司马懿去世，享年七十三岁。
嘉平三年(251年)六月，司马懿病(另一说法为司马懿是被箭射死的)，夜间常梦见贾逵、王凌为崇。八月，司马懿去世，享年七十三岁。当年九月，司马懿被葬于河阴，谥文贞，后改为文宣。晋武帝受魏禅，给司马懿上尊号为宣皇帝，称其陵墓为高原，庙号高祖。
