有国家机关和国家行政管理，就有机构编制管理工作。从土地革命时期的根据地政权建设，到1934年中华苏维埃共和国临时中央政府成立，再到抗战时期的陕甘宁边区政府，革命战争年代中国共产党领导的根据地政府的职能、机构和人员编制等工作，都是围绕争取军事斗争的胜利进行的，包括著名的精兵简政运动。而专门负责机构编制工作的机构，则是在建国以后才出现的。

1956年以前，由于建国初期的特殊情况，我国编制管理实行中央“统一领导、统一管理”的体制，中央不仅决定全国编制工作的大政方针，而且具体安排地方各级人民政府、党派、人民团体的编制员额。机构编制管理的日常工作以人事部门为主，吸收内务部门（大行政区以下为民政部门）、财政部门、政法、财经、文教各委参加，并与行政区划协同工作。这一时期的机构编制管理机构设置的具体情况是：

1949年12月，政务院成立了政务院及其所属单位机构编制审查委员会，主任为政务委员章乃器，负责了解、审查政务院各行政部门以及直属企事业单位的机构和编制的初步审核事项。1950年3月，政务院第22次政务会议决定，为争取财政收支平衡，节约行政开支，紧缩军政公教人员的编制，成立以中央人民政府委员、中财委副主任兼财政部长薄一波为主任的全国编制委员会，主要是负责管理全国地方编制，办事机构设在财政部。

1950年9月5日，中央人民政府委员会第九次会议决定成立人事部，政务院及其所属单位机构编制审查委员会的日常事务，即由人事部承担。1951年12月，政务院第114次政务会议决定，全国编制委员会的日常工作，也由财政部划归人事部承担，人事部二局（政法）设编制科。

1951年12月7日，政务院第114次政务会议通过的《中央人民政府政务院关于调整机构紧缩编制的决定（草案）》，规定省（市）以上均设立编制委员会，具体工作由人事部门办理。

1954年人事部撤销，成立国务院人事局，内设立编制一科（中央）、编制二科（地方），实有干部14名。全国编制委员会的工作由国务院秘书长习仲勋领导，统一管理中央和地方的国家机构编制，国务院人事局副局长金树望主管日常工作。

1954年12月，国务院决定成立国务院编制审查委员会，并在1955年1月更名为国务院编制工资委员会，由国务院副总理贺龙任主任，国务院秘书长习仲勋任副主任，负责管理中央和地方国家机关的行政、事业编制，制定国家机关工作人员的工资制度。在国务院人事局设办公室，作为其办事机构。办公室下设编制组、工资组、房管组、检查组。其中编制组以国务院人事局管理编制的人员为主，并抽调国务院各办公室1名处级以上干部组成，日常工作由国务院副秘书长曾一凡、国务院人事局局长章夷白、副局长金树望主持。1955年11月，国务院常务会议通过《国务院人事局组织简则》，规定国务院人事局不再承担机构编制工作，国务院编制工资委员会办公室直接由国务院领导，国务院设置专管机构编制工作的副秘书长职位。

1955年3月11日，《国务院关于成立省、自治区、直辖市编制委员会问题（电）》提出：“为了紧缩国家工作人员编制，国务院已成立编制工资委员会。省、自治区和直辖市亦应成立编制委员会，统一管理省、自治区和直辖市以下各级行政、事业和企业机关的编制工作。省、自治区和直辖市人民委员会编制委员会应以省（市）长或副省（市）长1人为主任，并选任各有关部门负责同志为委员，委员会下应建立适当的办事机构，有计划地进行工作”。