1957年，时任国防部部长的彭老总与政治部主任的肖华同志一起同廖汉生同志进行了谈话，希望他可以接受中央军委的任命，接任军事学院院长这一职务。当时的廖汉生刚从军事学院战役系毕业便收到了中央军委的调令，他要接替的正是他曾经最敬佩的老上级贺老总。廖汉生认为自己只是一个中将，无论是军事还是教育能力都无法与贺老总相比，断然拒绝了。经过彭老总与肖华同志的再三劝说，廖汉生才最终接下了这一任命。
廖汉生同志与贺老总之间渊源颇深，对廖汉生来说，贺老总不仅是上级，还是长辈，更是恩人。1911年辛亥革命不仅推倒了封建统治，还唤醒了无数的仁人志士，革命的烽火在中华大地熊熊燃烧，素来就嫉恶如仇的贺老总也成为革命的一员。1914年，贺老总参加了孙先生创建的的中华革命党，当时的贺老总主要在家乡湖南桑植一带活动，并且凭一己之力拉起了一支农民武装，而这支部队也是红二方面军的前身。
贺老总的这支部队吸引了许多曾经饱受欺压的农民，其中一个叫廖兰湘的教书先生因为足智多谋成为了这支队伍的军师，而廖兰湘正是廖汉生的父亲，因此廖汉生对于贺老总非常熟悉。贺老总对于机智勇敢，沉稳大气的廖汉生非常欣赏。当时社会娃娃亲非常普遍，贺老总想到自己二姐贺戊的女儿肖艮艮与廖汉生年龄相当，非常匹配，于是就主动做媒给二人订了亲，二人也因此成为了亲戚。
然而就在廖汉生10岁那年，不幸降临。廖汉生的父亲因病去世，家里失去了经济支柱。在廖父去世后，贺老总不希望廖汉生因此被埋没，就出钱资助廖汉生到桑植县成上学。后来贺老总率队离开桑植参加北伐战争，也因此与廖汉生失去了联系。廖汉生因为受到贺老总与父亲的影响，早就立志要参加革命，所以毕业后回到家乡参加了贺老总的姐姐贺英与贺戊领导的游击队，也是在此期间，廖汉生与肖艮艮完婚。
1928年时，贺老总奉中央命令返回湘西，组织农民起义，建立革命根据地，廖汉生积极响应贺老总的号召。因为平时工作表现优异，1929年廖汉生当选桑植县苏维埃代表。1932年12月，正在休整红二军团突然受到国民党反动派的袭击，造成了很大损失，贺老总被迫率队转战到了鹤峰，不过廖汉生却留了下来配合和老总的两位姐姐一起打游击。
1931年1月，反动派趁着贺老总带领红二军团支援洪湖苏区之际，重兵剿灭游击队，贺英与贺戊不幸牺牲，廖汉生侥幸突出了重围投奔了贺老总。之后廖汉生奉贺老总命令返回桑植重新组建游击队。1933年，廖汉生在贺老总的介绍下正式入党，1935年11月，他已经是第六师政治委员，与两个军团一起开始长征。
抗日战争爆发后，红二方面军与红27军等部队被改编为八路军120师，师长是贺老总，廖汉生则是358旅716团的副团长。当时廖汉生曾率领部队在雁门关切断了日军的补给，还曾在五台县的滑石片战役中全歼了日军的一个大队。然而就在1940年，廖汉生收到了一个不幸的消息，妻子肖艮艮早已不幸身亡。因此，在贺老总夫人薛明的介绍下，1943年廖汉生娶了白林做妻子。白林本名杨尚璞，她的哥哥杨尚昆同志曾经担任过国家主席。
抗日战争胜利后，廖汉生先是被调到了北平，之后又奉命返回延安。解放战争打响后，廖汉生先后参加过晋北战役，延安保卫战。新中国成立后，廖汉生又被任命为青海省委副书记兼省人民政府副主席等职务，一直在西北工作。
直到1954年，廖汉生才奉党中央命令返回北京接任国防部副部长。1955年奉命进入军事学院深造，1957年成为军事学院院长。之后先后担任北京军区政治委员，华北局书记处书等职务，在天津发大水时，廖汉生身先士卒，带领部队抗洪救灾。在十年动荡期间，廖汉生也受到了打压迫害，整整失去自由5年，直到1972年才在毛主席与周总理的帮助下被释放，次年恢复了工作。
改革开放后，廖汉生坚决支持邓公的领导，坚决拥护党的方针政策。80年代后，为了优秀青年干部有更大的发挥空间，廖汉生多次请求退出领导岗位，但均未得到允许。1983年，在被选为全国人大常委会副委员长后，廖汉生同志又积极地推动了法制工作。作为一名老革命家，一生奉献在了共产主义事业上。2006年，95岁的廖汉生同志于北京逝世。