1972年7月的一天，叶剑英在京西宾馆见到廖汉生，与他说：“毛主席对我说，廖汉生出来了，你去看看他。”
接着，叶剑英很关心地询问了廖汉生的身体状况。之后，叶帅安排他到解放军总医院检查身体，治疗疾病。
图|廖汉生与叶帅的合影
廖汉生是个闲不住的人，他想早点儿投入到工作当中。在叶剑英的安排下，廖汉生被任命为军事科学院的政委，与老战友，宋时轮院长一起搭伙计。
叶剑英：廖汉生同志，你恐怕要调一调了
1975年春节这天，军事科学院的宋时轮和廖汉生一起到叶帅家做客，叶帅很愉快地接待了他们。在谈话中，叶帅说：“廖汉生同志，你恐怕要调一调了。”
图|廖汉生和宋时轮的合影
在这之前，廖汉生就听到一些关于他调职的传言。不等廖汉生开口询问，叶帅继续说：“你要去南京军区任职。”
重新回到部队工作，廖汉生是高兴的。他原本就是从战火中拼杀出来的将军，建国后长期在国防部、军事科学院工作，他也有想过再回到与战士们一起的日子。
这次谈话，叶帅还透露给廖汉生另一个好消息，那就是他夫人白林的五哥杨尚昆已经“解放”出来。至于现在人在哪里，做些什么？叶帅没说，廖汉生也不好多问。
几天后，廖汉生的任命书正式下达了：经毛主席批准，任命军事科学院政治委员廖汉生为南京军区政治委员、军区党委书记。
2月19日，叶帅专门接见了廖汉生，对他到南京军区的工作给予一些指示。包括“军队精简整编的设想”、“干部问题”等。廖汉生很感激叶帅的关怀。
图|廖汉生
临行前，军事科学院为廖汉生举行了隆重的欢送大会。第一政治委员粟裕大将抱病出席，并发表了热情的讲话。老首长的热情让廖汉生十分感动。
2月28日，廖汉生一家飞抵南京。在廖汉生接到调令没几天，南京军区司令员丁盛，第二政治委员彭冲就打长途到北京，欢迎他到南京工作，并希望他尽快上任。
与丁盛搭档，廖汉生很高兴，他俩是老熟人了。原来，早在1937年红军改编八路军，红28军和红2军团第6师合编为120师716团时，宋时轮任团长，廖汉生任副团长，丁盛任二营党总支书记。从那时起，两人就在一起工作了。
至于和彭冲的关系也不浅，廖汉生在南京军事学院担任院长期间，彭冲任中共南京市委书记兼市长，他们经常碰面，还一同组织过队伍在体育馆打比赛。
廖汉生到任后，发现在南京军区领导班子里，只有对南京军区第一政治委员、党委第一书记的张春桥没有什么好感。后来，廖汉生听说，许世友担任南京军区司令员时，不把张春桥放在眼里，曾讽刺他“戴眼镜，夹皮包，能总结，会提高，打起仗来往后跑。”
初到南京，廖汉生看到军区首长们都在各自的家里办公，文件送到家里，秘书住在家里。首长们住得相当分散，遍布于南京城的各个角落。上任2个月后，廖汉生针对这一问题，亮明了自己的态度。
廖汉生说：“这样不行，我们身为军区首长，总在家里批文件、看电报是不行的，文电送到家里不利于保密，谁都有可能看到，首长们不见面也不便于交换意见。”
最后，廖汉生说：“军区首长一律到机关来上班！”这样，首长集体办公制度建立起来了！廖汉生以身作则，他自己每天早上8点以前就来到办公室，下班差一分钟也不走。凡公事都在办公室谈。
整顿领导作风之后，廖汉生接着抓部队的作风整顿。
4月22日，邓小平陪同金日成率领的朝鲜党政代表团来到南京，进行友好访问。金日成一行游览了玄武湖和中山陵，参观了南京长江大桥和南京无线电厂。
图|邓小平陪同金日成到南京访问，廖汉生（中）
访问间隙，丁盛、彭冲、廖汉生一起到中山陵9号邓小平的住处，简要地汇报了南京军区的工作。邓小平着重指示：部队的整顿要采取正面教育的方式。
回到军区办公室后，廖汉生下决心进一步加大整顿力度。从8月起，廖汉生和副参谋长赵俊、政治部主任王展等同志，专程视察了很多小、远、散的连队、哨所。
在连队，廖汉生带着军长、师长、团长们到部队中去，问战士“认不认识这些人？”战士们说认识的，廖汉生就表扬，这说明上级首长们下部队比较多，和基层干部战士比较熟悉；有的根本就不认识，廖汉生就当场严肃批评。
廖汉生批评说：“我军现在没有军衔标志，穿的衣服都一样。一旦打起仗来，你下去指挥，你说你是军长、师长、团长，谁认识你呀？”
在听取工作汇报时，廖汉生要求部队干部领导不许念稿子，问什么答什么。经过廖汉生一行的走访，部队的作风得到了很大的改善。
图|廖汉生下连队工作
8月底，军委发布了南京军区领导班子调整的命令。丁盛、彭冲和廖汉生继续担任原职，李水清调任南京军区副司令员。
9月12日，廖汉生正在安徽一驻军视察工作时，接到了军区党委办公室的电话，说丁盛司令员病重。廖汉生赶紧停止手头工作，驱车赶回南京。此后，丁盛基本不上班了，住在中山陵11号养病。这样，廖汉生就担起了主持军区全面工作的重担。
此后，廖汉生继续整顿部队。在冬季，军区组织部队进行野营拉练。在拉练中，军区直接组织了对第60军的检验性演习。第60军在南京军区是主力部队，后面会详尽地讲述这支部队。
廖汉生向叶剑英提议调兵，叶帅：一动就可能打草惊蛇
1976年6月底，廖汉生时不时地收到毛主席病重的电报，让他心感不安。
7月底，心情沉重的廖汉生身上起了痱子。因他急于工作，病急乱投医用大量苦瓜叶子擦身体，结果引起了皮肤中毒，随后被送到军区总医院治疗。后来，随着病情加剧，医生建议他到上海去请专家看看。
图|廖汉生
8月，廖汉生抵达上海，经专家治疗，病情得到控制。9月6日，彭冲从南京给廖汉生打来电话，告知毛主席病情加重。于是，廖汉生中断了在上海的治疗，马上返回南京。
9月9日，毛主席去世了。听到这个噩耗，在军区会议室的廖汉生与到会的同志们都悲痛得泣不成声。
回想起与毛主席相处的经历，廖汉生的泪水就止不住地往下流。
1937年5月3日，廖汉生第一次见到毛主席，并聆听了主席关于《中国共产党在抗日时期的任务》的报告。
1942年，廖汉生参加了毛主席领导的延安整风。1946年12月，廖汉生和张宗逊率领晋绥军区第一纵队执行保卫延安、保卫陕甘宁边区、保卫党中央、毛主席的任务，毛主席在延安机场接见了纵队全体指战员。
图|廖汉生（右一）
全国解放以后，廖汉生多次到北京参加会议，向毛主席汇报工作。1972年建军节前夕，是毛主席发了话，廖汉生才被“解放”出来。1973年12月，经毛主席批准，廖汉生重新回到工作岗位。
9月15日，经过几天的反复考虑，廖汉生下决心给军委办公厅打电话，让他们转告主持军委日常工作的陈锡联，请求批准他去北京吊唁毛主席。
廖汉生说：“那么多原国民党军队起义、投诚、被俘的将领都能参加，我们这些跟着毛主席干了这么多年的人，为什么连看一下都不行？我要去！”
16日，廖汉生接到军委办公厅的答复电话：中央批准廖汉生去北京参加吊唁，瞻仰遗容，并参加守灵。当天，廖汉生飞抵北京。第二天返回南京。
10月，廖汉生的皮肤病基本痊愈了，开始正式工作。10月7日，廖汉生接到了陈锡联的电话，说要南京军区的丁盛、廖汉生、江苏省委的彭冲，立即乘坐飞机到北京开会。
在会议期间，杨成武副总参谋长向廖汉生和丁盛交代了任务，要他们密切注意上海的动向。
之后，廖汉生、丁盛同总参谋部的同志一起商量防范措施。
图|廖汉生与叶帅检阅部队
事后，廖汉生向叶帅提一建议，说，为了防止可能出现的暴乱，可以利用临近冬季按惯例部队要进行野营拉练这一方式，把驻扎在江苏的第60军和驻扎在浙江的第1军分别向东拉。一旦有事就可以迅速进入上海。
第60军下辖178师、179师、180师。1973年12月，吴仕宏到南京军区任职，不兼军长，由张明任军长，魏金山任政治委员。
1976年3月，根据军委和军区的命令，第178师、180师改编为乙种师，179师为北方甲种师，坦克第38团调归60军建制。
毛主席去世后，60军的部队，部署在沪宁线上。第178师在昆山至苏州之间，第180师位于无锡，179师位于南京。军部在镇江。
叶帅听了廖汉生的建议后，表态“暂时不能动，一动就可能会打草惊蛇。”
图|廖汉生夫妇与叶剑英的合影
过了几天后，一切尽在掌握的条件下，叶帅采用了廖汉生的这条建议，将第60军和第1军分别向上海方向进行野营拉练。
这时，60军在沪宁线上保持一级战备，随时听从党中央和中央军委的调遣。军、师、团首长集体办公，吃住在指挥所，部队落实各项战备措施，步兵、坦克进行装载训练和准备，随时可以执行任务。
在沪宁线上存在的60军是一支强大的威慑力量，60军和全军指战员一样，为维护国家安定，作了许多重要工作。
事情尘埃落定后，廖汉生高兴地返回了南京军区。1977年1月12日，廖汉生接到了军委电话指示，要很好总结“硬骨头六连”的经验，军委要号召全军学习“硬骨头六连”。
图|廖汉生为“向硬骨头连学习展览”揭幕
这个连队是第1军1师1团2营6连，在关键时刻，与60军一起，做着随时“接管”上海的准备。
3月，聂凤智被任命为南京军区司令员，廖汉生为南京军区党委第一书记。9月，又任命他为南京军区第一政治委员，杜平为政治委员，李水清副司令员调任第二炮兵司令员，向守志调任南京军区副司令员。
廖汉生不想调离南京军区，但听从命令还是去了沈阳军区
1979年10月下旬，王震和杨勇一同到南京军区视察工作，廖汉生作接待。交谈中，杨勇透露给廖汉生一个消息，说他可能要调到沈阳军区去工作。
图|廖汉生和杨勇的合影
廖汉生听到这个消息，心情是很不安的。毕竟再过十几天，他就满68岁了。这样的年纪，让廖汉生有点儿担心自己的身体，是否吃得消。
于是，第二天，廖汉生就向上级写了一份报告，大致意思是，如果到了沈阳，干上2年就70岁了。到了新的单位，这么短的时间，恐怕人都认不全就该退下来了。这样的调动，是对工作不利。
递交了报告以后，廖汉生心里踏实了许多。往后，他一边等回复，一边继续埋头工作。
1980年1月的一天，廖汉生接到命令，调他到沈阳军区担任第一政治委员。命令下达了，再讲什么也是无用的。
1月下旬，廖汉生离开南京，先去了北京。从1975年2月底到1980年1月下旬，廖汉生在南京军区工作，差1个月就是5年了。到了北京后，廖汉生见了许多的老战友们。
1月31日，廖汉生抵达沈阳。时任沈阳军区司令员的李德生带领军区首长们在站台上迎接廖汉生到来，这让廖汉生感到无比温暖。
图|廖汉生
廖汉生到任后，了解到沈阳军区下辖6个野战军、3个省军区、2个守备区、1个警备区和1个要塞区，再加上由军区代管的海军、空军和总部的部队、院校，总计达83万人，是全国最大的一个军区。
那时，廖汉生想起了“曹操的兵马”，在第一次公开讲话时，说：“我们的兵马比曹操80万兵马还多3万。”
1981年底，廖汉生利用到北京开会的机会，把对领导班子、领导作风的整顿情况，向叶帅作了汇报。叶帅听后，给予肯定说：“好！应该这样整顿！”
1982年5月，张震到沈阳军区考察。廖汉生让张震回到北京后向军委转达自己要退下来的愿望。
之后，军委同意廖汉生退下来。比他小5岁的李德生依旧是司令员，比他小10岁的刘振华接任政治委员。
退居二线后，廖汉生却闲不下来。时常外出考察，写文章、写报告，向有关部门提交一些意见。
2006年10月5日，廖汉生在北京逝世，享年95岁。