1973年梁兴初离开军队，被安排到地方上工作。
面对自己的处境，梁兴初曾坚定地对妻子说道：
桂兰呀，革命的征途是坎坷的，我们要经得住考验，相信组织，相信党，不会有错的，早早晚晚会把我的问题搞清楚的。
正是在这种心态的支撑下，梁兴初将军不管面对怎么样的环境，他都能够快速适应，并且打听老战友们的下落以及时局发展变化等。
梁兴初的老战友邓华、洪学智等人，跟他的处境类似，同样都是静待时局的变化！在这段岁月中，大家都经历了很多，但是大家谁都没有抱怨，反而是将这当成一段特殊的历练。
1976年10月过后，不少老干部纷纷复出，走上了工作岗位。得知这个消息的梁兴初将军，内心是非常高兴的，他也想要继续为党为人民做点实事，为军队的发展贡献自己的一份力。
不过令梁兴初遗憾的是，他的处境一直没有得到有效的改变。在得知黄克诚负责中纪委工作后，他的内心燃起了希望，因为黄克诚将军在党内拥有极高的名望，他的做人做事都深受大家信任。
为此，梁兴初便找到自己的妻子，想要让她去北京一趟找到黄克诚同志，将自己口述的上诉材料交给对方。听到丈夫的这番话后，任桂兰自然是答应了下来，在离开时，梁兴初将军叮嘱道：
你到了北京后，先到高碑店，找到一一二师的同志把材料打印几份，然后再送到北京送交中央。记住，一定要想方设法送给黄老一份。
梁兴初将军之所以这样叮嘱，是因为他并不知道当时中纪委书记是陈云，黄克诚是常务副书记。
任桂兰按照梁兴初所叮嘱的步骤，将事情办妥当了，唯独将材料送给黄克诚难住了她。经过反复思考后，任桂兰决定前去拜访梁兴初的战友原三十九军军长吴信泉。
在来到吴信泉家中后，因为吴信泉工作的缘故，暂不在家，接到任桂兰的是吴信泉将军的妻子俞惠茹。得知对方的来意后，俞惠茹也是紧紧地握着任桂兰的手说道：“老吴，经常去黄克诚同志那里。你将材料给我，我让老吴转交！”
任桂兰听后语气激动道：“真是不知道，该如何感谢你们！”
俞惠茹摆了摆手说道：“你说这些话就客气了，你家老梁可救过我家老吴的命。如今梁司令有困难，我们理应尽力，不用客气。”
吴信泉回到家中，听到妻子讲述了白天发生的事情，他说道：“这件事，你办得很好，明天我就给黄老送过去……”
在见到黄克诚后，吴信泉也将事情的来龙去脉给他讲述了一遍，黄克诚听后点了点头便拿起梁兴初的材料看了起来。对于梁兴初，黄克诚也不陌生，他是知晓这名战将的经历……
9月14日，黄克诚在出席一场会议后，让谈到了梁兴初将军：“梁兴初作为一个打铁的，从小参加红军，受过9次伤，打了那么多胜仗，他能反对毛主席吗？”
这次会议结束后，黄克诚将军的这番表态也是引起了大家的探讨，随着探讨的扩大，梁兴初也得知了这件事，他预感到自己的事情即将迎来转折。
果不其然，在这次会议结束后不久，梁兴初被解除劳动改造，从义井化工厂搬到太原。在众多老战友的帮忙下，1980年梁兴初返回了北京，并被组织安排在北京军区赵家楼招待所。
任桂兰到成都军区搬家时，尤太忠司令员安慰道：
黄老对老梁有了正确的评价。中央、军纪委催我们快落实，要拿出意见，上报军委。你放心，我们一定尽快办理。
梁兴初将军也没有等太长的时间，党中央也下发了有关梁兴初将军问题审查的结论报告！梁兴初得知这件事后，内心是非常高兴的，他终于能够回到部队，干自己所喜欢的工作。
叶剑英元帅也是指示由总政安排梁兴初将军的工作，毕竟在过往的革命战争中，也证明了梁兴初是一名能征善战，值得信赖的战将。
总政接到叶帅的指示后，也是派人前来与梁兴初将军沟通，想要听听他的想法。对于梁兴初将军，他们也是非常尊敬的，但是他们也有难言之隐：“大军区正职的命令刚下，不好变动，可否到济南军区或者沈阳军区当顾问？”
听到对方的这番话后，梁兴初摇了摇头说道：“我不会当顾问！”
总政人员听后也是建议梁兴初好好思考下，等有机会的话再调任工作。事后，梁兴初将军也反复了好久，他也不愿意拒绝叶剑英元帅的好意，但他实在是当不了顾问。为此，为了避免让领导为难，他便决定离休。
梁兴初口述，由秘书记录：
为了培养年轻同志，请组织不要考虑对我的工作分配，我要求离休。为了方便看病，希望在北京安家。
梁兴初将自己的请求向党中央进行了汇报，叶剑英得知这个消息后，内心是非常遗憾的。因为那时梁兴初不仅有实战经验，而且还做过大军区领导，拥有非常深厚的军区建设经验，外加上他才六十多岁，当个顾问是没有问题的。
不过既然梁兴初同志有着自己的考虑，叶剑英也没有勉强他。在经过和其他同志的商讨后，同意了梁兴初将军的请求。
就这样，梁兴初便定居在北京。
作为征战一生的老将，梁兴初决定在自己空闲时间，将自己一生的经历写成回忆录，作为社会财富留给后人。对于写回忆录的事情，梁兴初很是重视，也亲自查询了很多资料，对自己记忆中待确定的事情，他也是去找老战友们核对……
不过令人遗憾的是，梁兴初将军尚未将自己的回忆录写完，就于1985年10月5日因病逝世了。
10月12日，党中央为梁兴初将军举办了追悼仪式，叶剑英、李先念、陈云等党和国家领导人都送来花圈，向这位为中国革命奋斗了半个多世纪的老战士致敬！