（一）新中国成立至改革开放前
1951年12月，政务院做出《关于调整机构紧缩编制的决定（草案）》，进行了建国以来第一次精兵简政工作。其主要内容有：（1）调整紧缩上层，合理充实下层；（2）合并分工不清和性质相近的机构；（3）精简机构，减少层次； （4）明确规定干部与勤杂人员的比例；（5）要求划清楚企业、事业机构和行政 机构的编制和开支；（6）严格编制纪律。这次机构改革以加强中央集权为中心内容。到1953年底，政务院工作部门增加到42个。1954年，随着中国政权组织形式的确定和各级政权机关的建立，从当年底开始，用了一年多的时间，对中央和地方各级机关进行了一次较大规模的精简。
1956年下半年，中央提出了《关于改进国家行政体制的决议（草案）》。这是第二次较大规模的体制改革和机构改革。这次改革以中央向地方下放权力为主要内容，通过国务院精简所属工作部门，下放权力，以达到扩大地方自主权的目的。这次改革一直持续到1960年。1858年，撤销合并了国家建设委员会等10多个单位。经过调整，国务院部委减少8个，直属机构减少5个。
1960 -1964年：为了贯彻国民经济调整的方针，进行了建国后的第三次较大机构改革。 一是先后在中央和地方各级机关进行了两次比较集中的干部精简运动。第一次是1960年7月至1961年9月，主要集中在中央一级机关。这次干部精简以事业单位为重点，对行政部门和事业单位同时进行精简。经过一年多的努力，在机构方面，中央各部门司局级机关减少15%，事业单位减少26%；行政机关精简1.6万余人，事业单位精简6.5万余人。第二次精简从1962年2月至1964年，范围包括中央和地方各级机关。
1966-1975年：“文革”中，政府机构发生非正常的大变动。1970年，国务院的79个部门撤销合并为32个，其中13个还由部队管理，达到建国以来中央政府机构数的最低点。1975年，邓小平主持国务院工作，并对各领域进行整顿，与之相适应，国务院工作部门恢复到52个。
1976-1981年：1976年，“四人帮”被粉碎后，鉴于当时经济上已处于崩溃，故沿用并发展了五十年代后期的管理体制和机构设置。到1981年，国务院的工作部门增加到100个，达到建国以来的最高峰。
（二）改革开放至今
改革开放以来，我国先后进行了八次集中的行政管理体制改革。回顾这八次改革的历程并在此基础上对今后的改革做些思考，对于进一步坚定改革信心、坚持正确的改革方向、把握并运用好改革规律、推动改革的不断深入都是十分必要的。改革开放以来进行的八次集中的行政管理体制改革分别实施于1982、1988、1993、1998、2003、2008、2013和2018年。这八次改革，紧紧围绕党和国家在当时阶段的工作大局，抓住影响经济社会发展的突出矛盾和问题，适时对体制机制进行变革和调整，从而使行政管理体制不断适应并推动经济社会的快速、持续、健康发展。
（1）1982年改革。1978年12月召开的党的十一届三中全会，把全党工作的重点转移到以经济建设为中心。这时，政府机构与工作重点转移不相适应的问题相当突出，主要表现在机构和人员过多，领导干部“四化”程度不高，部门职责不清、运转不灵、工作效率低下。1982年1月，中央政治局召开会议讨论中央机构精简问题。邓小平同志在会上指出，精简机构是一场革命，是对体制的革命。随后召开的五届全国人大常委会第22次会议审议通过了《关于国务院机构改革的决议》，改革开放后的第一次行政管理体制改革拉开序幕。这次国务院机构改革的重点是：适应工作重点转移，提高政府工作效率。首先，减少副总理人数，设置了国务委员职位，由总理、副总理、国务委员和秘书长组成国务院常务会议。其次，精简调整机构，将98个部、委、直属机构和办事机构裁减、合并为52个，同时撤销了大量临时性机构。改革中，重组了国家经济委员会；进一步加强了国家计委的工作；成立了国家经济体制改革委员会，负责经济体制改革的总体研究和设计。其三，精干领导班子，紧缩编制。按照干部“四化”方针，减少部分副职，推进新老干部更替。国务院各部门机关工作人员由49万多人核减为32万人。其四，废除实际存在的领导干部职务终身制，实行干部离退休制度。国务院部门机构改革完成后，进行了地方政府机构改革，重点是调整和加强各级领导核心，精简庞大臃肿的机构，选拔大批优秀中青年干部，轮训在职干部，克服官僚主义，提高工作效能。同时，积极试行地、市合并，实行市管县体制；改变农村人民公社“政社合一”体制，设立乡政府；实行老干部离退休制度等。
（2）1988年改革。1982年改革形成的新的行政管理体制运行5年后，1987年10月召开的党的十三大提出了政府机构改革新的任务。1988年，中央政治局讨论通过了《关于党中央、国务院机构改革方案的报告》。同年3月，七届全国人大一次会议审议通过了《国务院机构改革方案》，明确提出改革的任务是进一步转变职能，理顺关系，精简机构和人员，提高行政效率，逐步建立符合现代化管理要求的具有中国特色的功能齐全、结构合理、运转协调、灵活高效的行政管理体制。这次改革首次提出必须抓住转变职能这个关键，紧密地与经济体制改革相结合；按照经济体制改革和政企分开的要求，合并裁减专业管理部门和综合部门内设专业机构；从机构设置的科学性和整体性出发，适当加强决策咨询和调节、监督、审计、信息部门，转变综合部门的工作方式，提高政府对宏观经济活动的调控能力；贯彻精简、统一、效能原则，清理整顿行政性公司，撤销因人设事的机构，裁减人浮于事的部门和人员；为了巩固机构改革的成果，并使行政管理走上法制化道路，提出用法律手段控制机构设置和人员编制。
（3）1993年改革。1992年10月召开的党的十四大明确提出了建立社会主义市场经济体制的目标，要求建立适应社会主义市场经济需要的组织机构。围绕这一目标，1993年3月十四届二中全会讨论通过了机构改革方案。这是第一次在中央全会上讨论通过机构改革方案。随后，八届人大一次会议审议通过了《国务院机构改革方案》。改革的主要内容：一是转变职能，坚持政企分开。要求把属于企业的权力下放给企业，把应该由企业解决的问题交由企业自己去解决，减少具体审批事务和对企业的直接管理，做到宏观管好，微观放开。要求国家计委、财政部、人民银行以及新组建的国家经贸委等综合经济部门，把工作重点真正转到搞好宏观管理上来，集中精力搞好国民经济发展战略、发展规划和经济总量平衡，制定产业政策，培育与发展市场，有效调控社会经济活动。明确专业经济部门的职能主要是规划、协调、服务和监督，大力转变职能，简政放权，推动企业进入市场。二是理顺关系。要求理顺国务院部门之间、尤其是综合经济部门之间以及综合经济部门与专业经济部门之间的关系，合理划分职责权限，避免交叉重复。理顺中央与地方关系，合理划分管理权限，充分发挥中央与地方两个积极性，使地方在中央方针政策的指导下因地制宜地发展本地区经济和各项社会事业。三是精简机构编制。对专业经济部门，一类改为经济实体，不再承担政府行政管理职能；一类改为行业总会，作为国务院的直属事业单位，保留行业管理职能；还有一类是保留或新设的行政部门，这些部门的机构也要精干。对国务院直属机构、办事机构，除保留的外，一部分改为部委管理的国家局，一部分并入部委，成为部委内设的职能司局。
（4）1998年改革。这是改革开放以来机构变动最大、人员精简最多、改革力度最大的一次机构改革。随着经济体制改革不断深入，市场配置资源的基础性作用日益增强。1997年9月召开的党的十五大，再次提出了进行机构改革的要求。十五届二中全会审议通过的《国务院机构改革方案》认为，过去虽然进行过多次机构改革，取得了一定进展，但由于历史条件限制和宏观环境制约，很多问题未能得到根本性的解决，机构设置同社会主义市场经济发展需要之间的矛盾日益突出，改革势在必行，不改革没有出路。九届全国人大一次会议审议批准了《国务院机构改革方案》，提出建立办事高效、运转协调、行为规范的行政管理体系，完善国家公务员制度，建设高素质的专业化行政管理队伍，逐步建立适应社会主义市场经济体制的有中国特色的行政管理体制。改革的主要内容：一是转变职能。明确政府宏观调控部门的主要职能是保持经济总量平衡，抑制通货膨胀，优化经济结构，实现经济持续快速健康发展；专业经济管理部门的主要职能是制定行业规划和政策，进行行业管理，引导本行业产品结构的调整，维护行业平等竞争秩序。二是调整部门分工。按照权责一致的原则，在部门之间划转了100多项职能，相同或相近的职能尽可能交由一个部门承担，过去长期存在而没有解决的职能交叉、多头管理、政出多门、权责不清等问题有了很大改进。三是精简机构编制。主要是大力精简工业经济部门，将煤炭、冶金、机械等9个工业部先改成国家经贸委管理的国家局，2000年底全部撤销。1999年以后，省级党委和政府的机构改革分别展开；2000年底，市县乡机构改革开始启动。
（5）2003年改革。随着改革开放和社会主义现代化建设事业的不断推进，行政管理体制又出现了一些与新形势不相适应的突出矛盾和问题，需要通过改革加以解决。这次改革继续强调要进一步转变政府职能，要求按照政企分开原则，结合国有资产管理体制改革，政府部门不再承担直接管理国有企业的职能；按照权责一致原则，进一步理顺部门职责关系，根据责任赋予相应的权力；继续推进行政审批制度改革，明确审批范围，减少审批事项，规范审批行为；规范中央和地方的职能权限，正确处理中央垂直管理部门和地方政府的关系；探索完善综合行政执法工作，加强行政执法队伍组织建设；按照发挥行业自律机制作用和完善社会自我管理的要求，规范和发展行业协会、咨询组织、鉴定机构等社会中介组织和专业服务组织；按照依法行政的要求，进一步改进政府管理方式，规范行政行为，推进电子政务，提高行政效率。国务院机构改革完成后，进行了地方政府机构改革。地方政府机构改革的特点，一是对口设置省级国有资产管理机构。二是有关机构调整和职能整合不强调上下对口。除国有资产管理机构的设置外，一些地区从本地实际出发，因地制宜对其他有关机构进行调整和职能的整合。三是严格控制机构和编制，做到机构、编制、领导职数“三个不突破”。
（6）2008年改革。经过30年改革开放和快速发展，我国已进入全面建设小康社会新的发展阶段。面对新形势新任务，2007年10月召开的党的十七大明确提出了要加快推进行政管理体制改革、抓紧制定行政管理体制改革总体方案的要求。这次国务院机构改革是在以往改革基础上的继续和深化，突出了三个重点：一是加强和改善宏观调控，促进科学发展；二是着眼于保障和改善民生，加强社会管理和公共服务；三是按照探索职能有机统一的大部门体制要求，对一些职能相同或相近的部门进行整合，实行综合设置，理顺部门职责关系。这次改革从促进经济社会又好又快发展的需要出发，着眼于解决一些长期存在的突出矛盾和问题，在转变职能、理顺关系、明确和强化责任等方面迈出了重要步伐，取得明显成效，为今后的改革奠定了坚实基础。国务院机构改革完成阶段性任务后，中央印发了《关于地方政府机构改革的意见》，明确地方政府机构改革的主要任务是，着力转变政府职能，理顺职责关系，明确和强化责任，调整优化组织结构，规范机构设置，完善管理体制，严格控制机构编制。中央要求，深化地方政府机构改革要把维护人民群众的根本利益作为改革的出发点和落脚点，着力解决制约地方经济社会发展的突出矛盾，着力解决人民群众最关心、最直接、最现实的利益问题，建设人民满意的政府。按照中央部署，地方政府机构改革正在有序推进。
（7）2013年改革。2013年开始的第七轮改革继续进行机构改革，但主要的改革重心在于简政放权并强化政府监管和服务能力，权力运行机制得到大力整顿。
（8）2018年改革。2018年开始的第八轮改革，尽管还在推行之中，但改革主线很鲜明，就是要把行政机构改革和其他公共部门(党的机构)等统筹起来，强调不是精简而是权力关系的优化，注重增强机构和职责的协同性与整体性，解决突出的国家和社会治理问题。