1954年，毛主席亲自点将，力排众议，调粟裕担任总参谋长。
这里就有一个问题，聂荣臻之前是代总参谋长，已经代理了好几年，完全熟悉了总参谋部的工作，为何不直接把他转正，去掉代字呢？
聂荣臻是元帅，粟裕只是大将，聂荣臻的资历当然在粟裕之上。聂荣臻是第一副总参谋长，粟裕是第二副总参谋长，轮也首先轮到聂荣臻，怎么会选粟裕呢？
翻阅史料，大概有三个方面的原因。
其一是聂荣臻的身体不好。聂荣臻代理总参谋长那几年，是他一生最忙的时候。刚开始聂荣臻还兼任北京市长，因为实在太忙，顾不过来，只好不兼了。
同时聂荣臻还是华北军区司令员等等。那么多兼职，根本忙不过来。聂荣臻就去找毛主席，问这么多职务，怎么搞呀？毛主席说，你主要抓总参谋部的工作，抓抗美援朝，其余的事，你不要管。
毛主席让聂荣臻抓主要矛盾。就这也让聂荣臻累得够呛。抗美援朝期间，聂荣臻直接向毛主席汇报工作，前线战事紧张，有时候通宵不眠。
久而久之，脑平衡神经失调，高血压，心脏病，聂荣臻晕倒了。毛主席批准，让聂荣臻放下工作，到杭州南京上海休养了很长时间，他的身体才慢慢恢复。
其二，聂荣臻挨了毛主席很重的批评。代理总参谋长期间，聂荣臻担心毛主席太忙，就擅自做主，只把一些重要的文件和电报拿给毛主席看，不太重要的总参谋部就处理了。
聂荣臻的出发点当然是好的，可他这样做实在欠妥。毛主席十分敏感，发现送给他的军委文件少了，在军委的会议上直接对聂荣臻进行了批评，说这是搞封锁。
毛主席对聂荣臻的这种做法很不满意，甚至说要对他进行了组织处理。大家赶紧打圆场，让聂荣臻回去写检讨，这事才算过去。
聂荣臻戎马一生，很少挨毛主席的批评，这一次毛主席批评得很重。聂荣臻的身体又累垮了，中央自然不可能再让他继续负责总参谋部的工作了。
当然还有第三原因，那就是山头平衡。建国初期，四大野战军首长都进京任职，第一野战军司令员彭德怀当了国防部长，主持军委的日常工作。
第二野战军政委邓小平兼职更多，担任了中央秘书长、组织部部长、国务院副总理。四野的统帅林彪身体不好，也担任了国务院副总理，还是国防委员会副主席。
第四野战军政委罗荣桓是总政治部主任。第三野战军司令员陈毅担任了国务院副总理，第三野战军副司令员粟裕的战功那么大，不能不委以重任。
为了平衡四大野战军，毛主席就点了粟裕的将，让他担任总参谋长。粟裕成了总参的一把手，聂荣臻更不可能留在总参谋部了。
他比粟裕的资格老，总不能给粟裕当副手吧。聂荣臻就被免去代总参谋长职务，管了一段军工生产，然后就被任命为国务院副总理，长期负责全国科学技术工作。
（参考书籍：《聂荣臻回忆录》、《聂荣臻传》）