1959年中央召开“庐山会议”，国防部长彭德怀在这次会议上被“罢官”。作为政治局委员的罗荣桓，因病未能出席这次重要的会议。
在会议期间，彭真受毛泽东主席的委托，从庐山打电话给罗荣桓，向他通报了会议的有关情况。据《罗荣桓传》记载：彭真说“毛主席准备让林彪接替彭德怀国防部长的职务，并征求未出席会议同志的意见”。罗荣桓向彭真谈了他自己的意见，认为“国防部长外事任务较重，林彪身体不好，似不宜担任这一职务，罗荣桓建议由贺龙任国防部长，彭真向毛泽东报告了罗荣桓的意见，然而未被采纳”。（《罗荣桓传》第一版，第563页）
罗荣桓长期从事我军政治工作，对人事工作有着非常丰富的经验，看人识人有着非常独到的见解见识。可以说，罗荣桓在举贤任能、唯才是举方面有口皆碑，让人非常服气。择举一例，建国前，毛泽东找罗荣桓谈话时，表示准备想让他当共和国的首任公安部长。罗荣桓当即向毛泽东主席表示自己当不合适，他推荐了罗瑞卿，认为他当更合适。最终毛泽东采纳了他的意见。事实证明，罗瑞卿出任共和国首任公安部长，成为我国公安工作的主要奠基人，工作做得非常出色。（《罗荣桓传》第一版，第494页）
这次罗荣桓认为林彪不适宜担任国防部长这一职务，并没有半点个人偏见。他的看法首先是基于他对林彪身体健康情况的了解。他两搭班子可以说时间较长，彼此都非常了解。特别是林彪自抗日战争初期受到枪伤后，身体一直较差。这一点罗荣桓是最清楚的。解放后，林彪这些年来主要也是在休养状态之中。当国防部长，意味着要主持军委日常工作，任务非常繁重，以林彪那样的身体不一定吃得消。加之国防部长，作为国务院的一个主要军事职能部门，军事外事活动肯定也少不了，这对林彪的身体无疑也是个考验。
罗荣桓就是这样一个组织性、纪律性、党性观念极强的人。按说，他明知毛泽东已经准备让林彪接替彭德怀出任国防部长，他本可以表态没有异议即可。但罗荣桓是真正的共产党人，当彭真代表中央征求他的意见时，他还是秉持一个共产党人实事求是的精神、举贤任能的精神、对事业高度负责的精神，直言不讳地谈了他自己的想法和看法。
完全可以说，罗荣桓的推荐是郑重的，是严肃的，是负责任的。