北宋中期冗官成灾，不但官僚机构十分庞大，官员急增，而且造成官职不符，大批官僚无所事事却身居要职;办事效率低下，得过且过之风盛行。这种官僚体制，当然既无益于朝政，更不能适应改革的需要。因此，宋神宗经过深思熟虑，下决心对官僚体制进行改革。
首先对中央机构进行整改，使“台、省、守、监之官实典职事，领空名者一切罢去，而易之以阶，因以制禄”。适当合并机构，裁减官员，使官员名实相符，有职有权。设立中书、门下、尚书三省，统管中央行政。
中书省主管宣布皇帝命令，批复臣僚奏议，决定重要官员的任免，下设吏房等八房办事机构。门下省主管审议中书省所定事宜。尚书省是执行机关，设宰相，分六部，行使实际权力。但兵部只管保甲、民兵等事，实际兵权仍为皇帝和枢密院掌管。
这样，宋初以来中央机构虚职多而实职少的弊端，得以扭转，原来“三省长官不预朝政，六曹不厘本务”的怪现象消除了。
其次，宋神宗统一了全国官员的薪金，原来只领薪金的虚官，改为相应的阶，以阶级领薪金，以便于对官员的考核和使用，使“卿士大夫涖官居职，知使责任，而不失宠禄之实”，发挥官员的积极性。
宋神宗的元丰改制，虽然有一定的积极作用，但在当时的历史条件下，他没有也不可能进行彻底的机构体制改革，精简官员，因而他徒有良好的愿望，却不可能达到巩固改革成果的目的。
