阎锡山有山西土皇帝之称，从辛亥革命开始统治山西达38年之久，奉行“中道”的处世哲学。阎锡山历任国民党政府高职，解放前期，解放前夕去台湾，病逝台北。
1883年10月8日（清光绪九年九月初八），出生于山西省五台县河边村（今定襄县河边镇）一个以经商为主的小地主家庭。字百川、伯川，号龙池。
九岁入私塾，读过《三字经》等启蒙读物与部分四书五经。14岁辍学，随父阎书堂（字子明）到五台县城内自家开设的吉庆长钱铺学商，参与放债收息及金融投机。1900年在一次投机中惨败，负债两千吊，父子二人被迫逃往太原躲债。金融投机虽然短暂，但却为阎锡山后来进行政治活动积累了原始经验。
1901年（光绪二十七年）入山西武备学堂，904年被保送到日本留学，先入东京振武学校，毕业后入日本陆军士官学校第十六期。在资产阶级民主革命思潮的影响下，他于1905年10月加入同盟会，曾会见孙中山并参与制订了同盟会的“南响北应”的战略决策，即同盟会在“南部各省起义时，须在晋省遥应”。从此，阎锡山登上了政治舞台。
1909年（宣统元年）自日本陆军士官学校毕业返国，出任山西陆军小学教官、监督。不久应清朝行省乡试，中举人。任山西陆军第二标教官，后任标统（相当于团长）。
辛亥革命后，率部起义，占领巡抚衙门，任山西都督，开始掌握山西大权。以后便看风使舵，先投靠袁世凯，表示支持他当皇帝。袁死后又投靠北洋军阀段祺瑞。
1916年7月任山西督军兼省长。
1917年9月，孙中山领导的护法战争爆发。他秉承段祺瑞的旨意，派兵赴湖南同护法军作战，遭惨败。在北洋军阀混战的年代，他朝秦暮楚，进行政治投机，并乘机将部队扩充为12个旅。
1927年6月，在北伐战争取得很大胜利的形势下，他自称北方革命军总司令，悬挂青天白日旗，随即将军队扩编为8个军。7月，在山西进行“清党”，迫害共产党人。
1928年2月，任国民革命军第三集团军总司令，参加对奉系军阀张作霖部队的作战。3月任国民党中央政治会议太原分会主席、北平（今北京）分会代主席、平津卫戍总司令，势力范围扩展到河北、察哈尔、绥远及北平、天津。
1929年又兼任国民党陆海空军副总司令。
1930年，蒋介石借“编遣”之机，剪除异己。阎锡山同蒋介石发生尖锐的利害冲突，8月联合冯玉祥反蒋，在北平另组国民政府，任主席。9月，张学良在沈阳通电拥护蒋介石，出兵进山海关。在蒋冯阎大战中，冯、阎战败。阎锡山逃往由日军占领的大连。由于山西军政要人都是他培植的亲信，他仍可控制山西局面并随时准备东山再起。
1931年8月，乘日本飞机秘密回山西，隐居河边村，遥控太原。
“九一八”事变后，1932年3月，任太原绥靖公署主任，重新统治山西和绥远两省。他采用保境自守的策略，着重搞好本省建设，充实力量。
1935年日军进窥绥东，他提出了“守土抗战”的口号。
1936年2月，红军东征，由陕北过黄河进入山西，阎军大败。蒋介石乘机派五个师进入山西。红军撤回陕北后，蒋介石仍不撤走。随后，他面对日军步步进逼，而蒋介石也想将他吞并的形势，初步接受了共产党的抗日民族统一战线政策，采取了“拥蒋联共抗日”的路线。抗日战争爆发后，阎锡山任第二战区司令长官。
1937年9月，日军侵入山西后，曾在代县组织所部积极对日军作战，并同共产党合作抗日。在忻口会战中，国民党中央军（郝梦龄军长壮烈殉国）、阎锡山晋绥军（姜玉贞旅长等将领壮烈牺牲）与共产党八路军曾通力合作，并互相配合打出了抗日战争第一次大捷平型关大捷。但由于双方装备、战斗力差距较大，以及一系列战术、战略失误，日军最终攻占了娘子关、雁门关等一系列要塞，并于1937年11月侵占太原。太原陷落后，日军的进攻逐渐停息，在中日双方战线相对稳定后，阎锡山接受了蒋介石的密令，开始制造反共摩擦。
1939年蒋介石发动反共高潮后，他于12月制造“晋西事变”，进攻抗日决死队和八路军。后来又暗中同日本侵略者联系，在抗日和降日之间进行投机。抗日战争胜利后，积极参加蒋介石发动的内战。
1940年到1945年期间，因为一度对抗战前景失去信心，并且为在蒋介石的挤压下保存实力，阎与日本军队及汪伪方面展开谈判多次，包括1940年12月赵承绶与日本山西派遣军（第一军）参谋长楠山秀吉少将的第一次白璧关谈判，1941年3月赵承绶和日方高级参谋官内中佐参加的第二次白璧关谈判，1941年8月赵承绶与日方田边盛武、楠山秀吉在汾阳签订《晋绥军和日本军基本协定》和《停战协定》，1942年5月阎本人与日方山西派遣军第一军司令官岩松义雄中将，参谋长花谷正少将进行的安平谈判（由于阎方在军火方面要价太高未取得结果），1945年6月阎本人与日军华北派遣军参谋长高桥坦有进行的瑶圃谈判以及1945年8月初阎与日方山西派遣军参谋长山冈道武进行的司马村会谈。抗日战争后期，阎锡山为了所谓的保存实力，与日方进行了多次谈判，并且进行了互换控制地盘、配合进攻抗日根据地以及经济上互相协作等一系列不光彩的举动，但在抗日民族大义面前，再加上蒋介石的牵制与拉拢以及其部属、亲信赵戴文等的坚决反对，因此始终未迈出公开投敌这一步。
1945年9月派第十九军军长史泽波率部侵犯上党解放区，三万余人被歼。随后，在解放军的打击下，他的部队不断被歼，所占地区日益缩小，到1948年7月，只剩下太原和大同两座孤城，但仍继续顽抗。
1949年3月，逃往南京。6月在广州任国民党政府的行政院长兼国防部长。12月到台湾。
1960年5月23日病故。
