1989年11月，在中共十三届五中全会上，邓小平辞去了他担任的最后一个职务——中央军委主席。邓小平身体力行地废除领导干部职务终身制，在第二代中央领导集体向第三代中央领导集体顺利过渡中，对于保持党和国家的稳定起了关键作用。
1977年，邓小平第三次复出后，便开始着手解决组织路线问题。有一次，邓小平在中央党、政、军机关副部级以上干部会议上说：
现在我们搞四个现代化，急需培养、选拔一大批合格的人才。这是一个新课题，也是对老同志和高级干部提出的一个责任，就是要认真选好接班人。老干部现在大体上都是60岁左右的人了，60岁出头的恐怕还占多数，精力毕竟不够了，不然为什么有些同志在家里办公呢？为什么不能在办公室顶8小时呢？
现在我们面临的问题，是缺少一批年富力强、有专业知识的干部。而没有这样一批干部，四个现代化就搞不起来。我们老同志要清醒地看到，选拔接班人这件事情不能拖。否则，搞四个现代化就会变成一句空话。
此时的邓小平已经清楚地意识到，要想彻底解决这个问题，就必须要废除领导干部职务终身制，建立退休制度。
1982年1月13日，邓小平在中央政治局会议上谈到要老同志让路、让中青年干部上来接班的问题时，把它比喻为“一场革命”，邓小平说：“这场‘革命’不搞，让老人、病人挡住比较年轻、有干劲、有能力的人的路，不只是四个现代化没有希望，甚至于要涉及亡党亡国的问题，可能要亡党亡国！”
1982年9月，党的“十二大”决定成立中央顾问委员会，邓小平出任中央顾问委员会主任，他在大会上说：“中央顾问委员会是个新东西，是根据中国共产党的实际成立的，是解决我们这个老党、老人实现新旧交替的一种组织形式。目的是使中央委员会年轻化，同时让老同志退出一线后继续发挥一定的作用，顾问委员会就是这样一个组织。”
后来的事实证明，中央顾问委员会为废除实际存在的领导职务终身制、实现新老干部的交替与合作作出了重要的贡献。
1986年9月2日，邓小平接受了美国哥伦比亚广播公司《60分钟》节目的记者迈克·华莱士的电视采访。华莱士问邓小平：“您准备在主要领导位子上再留多长时间？”
邓小平说：“你也知道，1980年我同意大利记者法拉奇谈话时说，我干到1985年就行了，现在超过一年了。就我个人来说，我是希望早退休，但这个问题比较困难，党内一片反对声，在党内和人民当中很难说服。我明年在党的十三大时就退下来。”
1987年党的“十三大”召开前，邓小平、陈云、李先念等人共同约定“一齐退下来，而且是一退到底”。10月30日这天，陈云约邓小平和李先念来到自己家里，3位老人进行了一次长时间的秘密谈话，谈话的内容没有其他人知道，陈云的警卫员赵天元后来回忆说：
见我进来，3位老人都高声说：“烟，拿烟。”我赶忙向邓小平的秘书张宝忠要烟……谈话结束，邓小平和李主席走后，我看见烟灰缸里有6个过滤嘴烟头，邓小平在80分钟内抽完了6支香烟。
陈云和李先念都不抽烟，他们如此急切地为邓小平找烟，足以说明此次谈话的内容必定涉及党和国家的重大问题。
但由于党内外广大群众强烈要求，党的“十三大”只同意邓小平“半退”，即邓小平不进入新的中央政治局及其常委会，也不再进入新的中央委员会和中央顾问委员会，留任党和国家军委主席的职务。
对于“半退”的结果，邓小平还是不太满意，后来他说：“十三大搞了个半退，但我一直认为那时全退最好。”
1989年6月，党的十三届四中全会后，以江泽民为核心的新的中央领导集体卓有成效地开展工作，国内政局逐渐平稳。在这种形势下，邓小平毫不犹豫地将自己退休事宜再次提上了议事日程。9月4日，邓小平说：“退休是定了，退了很有益处。如果不退休，在工作岗位上去世，世界会引起什么反响很难讲。如果我退休了，确实不做事，人又还在，就还能起一点作用。”
11月9日下午3点，第十三届中央委员会第五次会议进行表决，通过了邓小平辞去中共中央军事委员会主席的请求。随后邓小平乘车来到了人民大会堂，他与参会的同志们一一握手，并激动地对大家说：“感谢同志们对我的理解和支持，全会接受了我退休的请求。衷心感谢全会，衷心感谢同志们！”
临别之际，江泽民向邓小平表示：“我一定鞠躬尽瘁，死而后已。”两人的手紧紧地握在一起……
邓小平退休后，仍然关注着干部退休制度的建立。1992年，他专门到南方视察，并就国际国内重大问题，包括干部年轻化问题提出一系列意见，作出全面的也是最后的交代。
同样是在1992年，中顾委正式完成了自己的历史任务，党的“十四大”决定不再建立中顾委，并向中顾委和老同志们表示衷心的谢意和崇高的敬意，这标志着中国干部退休制度的全面建立。