1969年9月下旬，谭震林接到通知，他被安排在桂林。
在抵达桂林后，谭震林被安排在一处秘密住所。谭震林同志非常乐观，尽管身处逆境，但是从来没有消极过，始终是坚持原则，坚持本心。
谭震林在桂林一个人没待多长时间后，他的妻子和两个小女儿才被允许前来陪伴。随着家人的到来，谭震林每天除去陪妻子聊聊天、逗逗孩子们，还会带着两个小女儿在后山上开荒，种上蔬菜并养了不少鸡。
谭震林的妻子葛慧敏曾回忆道：
“老头”也是有血有肉，有喜怒哀乐的人，他怎么没有自己的想法呢？他也苦闷啊……
在这里时间过得很快，1970年眨眼间便过去了，1971年的春节到了。在这个喜庆的日子里，谭震林为能够让家人过好新年，他也是想了不少办法，比如唱军歌、唱京剧等。
谭震林夫妇都是革命信念非常坚定的人，在他们的印象下，他们的子女也是如此。为此，孩子们也没有抱怨什么，静等时局的变化。
随着1971年“九一三”事件的发生，谭震林同志的处境也慢慢好转，他开始知道在北京发生的一些重大事情。不过令人遗憾的是，在这个时候，谭震林因为身体缘故，无奈只好住院接受治疗。
谭震林给毛主席写了一封信，希望能够回到北京接受治疗。毛主席在收到谭震林的这封信后，也是很快进行了批示，同意他的请求。
就这样，在1973年谭震林同志重返北京。
在毛主席和周总理的关心下，谭震林同志和他的家人都得到妥善的安排，他的待遇也得到了恢复。
谭震林所居住的地方，有不少老同志，为此大家也会交流各自的想法， 算不上太无聊。当年8月，谭震林接到组织上的通知，让他参加中国共产党第十次全国代表大会。
在参加完这次会议后，谭震林的心情十分沉重，他的妻子葛慧敏曾回忆道：
在这段时期里，谭震林一天总是三个地方，睡觉的床、吃饭的桌、办公的桌。他每天早晚两次在院内散步，子女们想同他谈一谈，帮助他散散心，他也很少说话。他在散步中不知突然想起什么，就一拐一拐地走回办公桌前，埋头写了起来……
一向以心直口快而著称的谭震林同志，如今变得这样沉默寡言，可以想象得到他的内心是多么汹涌澎湃啊。当然，在谭震林同志回到北京后，他也见到了毛主席、周总理和叶剑英等人，并进行了交谈。
1975年1月，在第四届全国人民代表大会上，谭震林被选为全国人大常委会副委员长。在出任这个职务后，尽管谭震林的身体并没有完全痊愈，但他在朱老总的直接领导下，担负起了接待外宾等任务。
在这个工作岗位上，谭震林表现非常出色，他也前往农村、工厂等各个地方进行考察工作。不过由于他的勤奋工作，身体也累垮了，再次住院接受治疗。
周总理得知这个消息后，也是抱着病体前往医院看望他。谭震林见到愈发消瘦的周总理时，忍不住地流泪：“总理，您要好好保重身体啊！”
周总理听后点了点头，并说道：“你也是一样，要注意身体健康啊。”
两位老战友这次见面聊了很多，谭震林也将自己的想法说了出来，周总理边听边点头。为了不打扰谭震林的治疗工作，周总理待了一会就离开了。
不过令谭震林没有想到的是，这是他和周总理的最后一次见面。1976年1月7日，谭震林在得知周总理病逝的消息后，他语气哽咽道：“我多么渴望见周总理一次啊！”
1月8日，谭震林像往日一样打开收音机，里面传来了周总理逝世的噩耗，谭震林看着窗外，脑海中浮现出和周总理相处的一幕幕。
回过神来的谭震林，找来一块黑布，一针一线的为自己缝制臂纱，默默寄托对周总理的哀思。
不久后，朱老总、毛主席相继病逝的消息传来，更是给谭震林同志带来重大打击。就在这个时候，在叶剑英等老同志的努力下，最终成功将局面给控制住了，谭震林得知后也是开心的笑了起来。
1977年8月，谭震林在党的第十一次全国代表大会上，他继续当选为中央委员。年底，谭震林重新来到井冈山，回顾往日的革命斗争，劝告自己不忘初心。
在此后的岁月中，谭震林积极发挥自己的影响力，为国家的发展贡献自己的一份力量。
1979年是毛主席病逝后第三年，恰巧是他对诞生85周年。为此不少杂志纷纷行动起来，准备刊载一些文章来怀念毛主席。
谭震林作为井冈山时期的老同志，也是收到杂志《红旗》的约稿，他欣然答应了下来。对于毛主席，谭震林有着很深的感情，为此在写文章时他联系当下，写了一篇《井冈山斗争的实践与毛泽东思想的发展》的文章。
文章部分内容如下：
以实践作为检验真理的标准呢？还是以思想、意识等精神方面的东西作为检验真理的标准呢？这是马克思主义辩证唯物主义同形形色色的唯心主义、形而上学之间的一条根本分界线，也是是否真正高举毛泽东思想旗帜的根本标志。
谭震林将自己所写的这篇文章交给《红旗》后，该杂志领导同志以“本报不能介入这种争论，文章要重新修改”为理由扣发。谭震林在得知事情的来龙去脉后，则言：“文字上可以改，但基本观点不能动。”
后来谭震林的这篇文章还是惊动了党中央领导人，在众多领导人的支持下，这篇文章得以发表。文章在发表后，引起了大家的探讨，对于谭震林的观点，支持的人占大多数。
1983年9月30日，谭震林因病在北京逝世，终年81岁。