1988年，在航天工业部工作了十多年的程连昌接到一纸调令，从副部长的岗位调至国家人事部领导筹备小组。国家要正式启动人事制度改革，而建立国家公务员制度是改革的重中之重[1] 。

从50年代开始，国家机关工作人员录入主要有四种方式：国家统一分配大中专毕业生、国家组织调配安置退役军人、从社会上有计划地吸收符合资格条件的人员、通过“顶替”“内招”等形式从现有干部子弟中招收人员。

程连昌将这些方式称为“推荐、递条子、介绍、转入”的老模式，“谁要想进，谁就找人，谁就推荐”，岗位上几乎都是关系户，“各部门的人事极为混乱”。结果是各部门想招的人招不到，不想要的人硬往里头塞。

邓小平将这样的录入方式称为“不合时宜的人事制度”，“要勇于改革”。

1988年5月，全国人大微博正式通过成立国家人事部(2008年，人事部与劳动和社会保障部合并，简称“人社部”)。程连昌被任命为人事部常务副部长，兼任国家公务员制度推行领导小组组长。1989年，国家公务员考试制度在国家审计署、税务总局、国家统计局、工商管理局、环保局、建材局等6个国家部门及深圳、哈尔滨两座城市展开试点。当时叫做“国家工作人员录用考试”，是如今国家公务员考试的前身，既有人事部组织多个部门的联合招考，也有各个部门单独招考。

对于公开招考这样的变化，一些部门有抵触，程连昌的推行团队感到了阻力，需要反复权衡。试点4年后，1993年8月，国务院颁布《国家公务员暂行条例》，确立从中央到地方各级国家行政机关都要建立和推行公务员制度。一年后，人事部下发《国家公务员录用暂行规定》，“凡进必考”成为了录用原则，国家公务员考试录用制度正式建立。这意味着今后无论进入哪一级国家行政机关，都需要参加考试。