梁兴初在被撤职后，一直在山西劳动。1981年他从山西回到北京，因为他已经被平反了。叶帅就派人找到梁兴初，给他提供了工作的机会，可以在沈阳和济南军区之间，任选一个担任顾问的职位。然而，令人意外的是，梁兴初没有选择任何一个地方，而是要求留在北京养老。
梁兴初是打铁的出身，17岁便参加红军，19岁就成了模范连长，参加了中央苏区历次反“围剿”。在红军时期，尽管他仅为团长，但打仗却不含糊。
抗战开始后，他担任了八路军第115师685团营长，参加了平型关等战斗。1938年起任685团副团长，此后又奉命支援山东。也曾奉命南下支援新四军任独立旅旅长等职。也因为他出色的表现，陈老总称赞他是一员虎将。
解放战争期间，梁兴初率领着山东1师，进入到了东北。1947年10纵组建时，梁兴初接到的任命是去担任副司令员，没想到他却找到林总说：我宁做鸡头不做凤尾，如果不是司令员，那我情愿当师长。林彪丝毫不以为意，还真的将10纵交给了梁兴初，就这样梁兴初在解放战争期间成为了纵队司令员。
当然，梁兴初为没有辜负这份信任，在辽沈战役中，指挥了著名的黑山狙击战。在敌人的重兵轮番攻击下，仍是坚守了五天五夜，为保障我军全面歼灭廖耀湘兵团做出了巨大贡献。
此后，他又率部入关，一路南下，经历了很多硬仗、恶仗，并且多次受到了上级的嘉奖。
抗美援朝时期，梁兴初担任了中国人民志愿军38军军长，成就了“万岁军”之名，他也成为了万岁军的军长。
回国后，梁兴初先是担任海南军区司令员，后调入广州军区，长期担任副司令员。1967年3月，梁兴初更是奉调前往四川，出任成都军区新任司令员。
1971年的“九一三”事件，成都军区受到了严重冲击。司令员梁兴初遭到了组织的隔离审查，第二年春天便被免去大军区司令员职务，还下放到山西开始接受劳动改造。
一直到1979年，才有人提出来了要给梁兴初平反，可争议还是很大。关键时刻，黄克诚站了出来，他伸出9根手指，说的是梁兴初身上的9处战伤，他也不认为这样的一员虎将会有什么问题。
最终，在1981年，中央撤销了此前对梁兴初的错误定性，免予处分，按大军区级别享受待遇。
尽管平反晚了些，但梁兴初毕竟恢复了待遇，而且他年纪也不大。叶帅的意思是他还能继续工作。只不过梁兴初却委婉表示了拒绝，毕竟这么多年下来，他的身体的确不好，1985年，他更是突然病逝了。一代虎将，就这样谢幕人世。