建国初期，周总理不仅是国家的总理，身上还兼任着很多的职务，这也让他忙不过来。所以周总理就提出让别人负责军委的工作，而且也向中央推荐了一个人，此人就是彭德怀。当时彭德怀正在朝鲜指挥作战，不过由于身体的原因需要回国接受治疗。
所以在1952年4月他就已经回国，而朝鲜战场上邓华接替了彭德怀的职务指挥志愿军作战。经过一段时间的治疗，彭德怀的身体恢复了，于是周总理就提出让彭德怀来负责军委的工作，并且兼任总长一职。
彭德怀对于周总理这样的做法也是挺理解的，毕竟新中国刚刚建立，很多事情都需要周总理来负责，尤其是外交上的，周总理太忙了自然也就没有时间去管理军委工作。而朱老总的身体不好，年纪也大了，还担任副总理一职，林彪也在养病。要说能够负责军委工作的，就只有彭德怀了，他不管资历还是能力都是比较出色的。
所以彭德怀也接受了周总理的提议，去主持军委的工作，可是对于兼任总长这一提议，彭德怀却没有同意，因为他这个人擅长做军事主官，对拿主意，还有抓大局上是挺擅长的，可是总长负责的东西比较多，这可是需要很大耐心的，彭德怀性格比较急躁，这种工作不适合他。
实际上，解放战争最初的时候彭德怀就担任过总长，只是没干多久他就觉得这活真的不适合他，只有带兵打仗才适合。所以在周总理提议让他来当总长，彭德怀就立刻拒绝了，还给推荐了两个人。首先就是高岗，他对毛主席说，高岗身上的优点很多。可是毛主席却直接反问彭德怀，难道他就没有什么缺点吗？这也看出毛主席对高岗是不满意的。
高岗可是长期在地方工作，在部队里没有担任过什么职务，如果让他来当总长，肯定是难以服众，而且一些工作他也可能做不来。另外高岗当时也是身兼数职，不仅是副总理，还是东北局的书记，以及东北的政府主席。
而且毛主席还准备让他负责国家计划委的主席，主要负责经济方面的工作，这自然也让他没有精力去负责军事上的工作了。在高岗没有被毛主席同意后，彭德怀就立刻推荐了邓公。这可是非常合适的人选，因为邓华在部队里工作时间长，另外还有超强的政治能力，让他来当这个总长自然也是没有问题的。
不过毛主席也准备让邓公来当副总理，帮助周总理处理国家事务，那他也就抽不开身去当这个总长。既然这两个人都不合适，那么这个总长是谁当呢？当然还是让徐向前继续当了。建国初期，中央就让徐向前来当总长，不过他的身体不怎么好，毛主席就让聂荣臻来协助，所以总参部的工作都是聂荣臻负责的，只不过他身上也有不少的职务，工作繁多让他的身体每况愈下。
1951年10月，中央就调粟裕去了总参部，成为了第二副总长，以此来帮助聂荣臻处理工作。不过要是粟裕来当这个总长也是合适的，只是粟裕身体也不好，不然抗美援朝的时候，毛主席就让他去朝鲜指挥作战了。
1952年7月，在他身体休养好后，中央就让粟裕来当总长，粟裕觉得自己能力不够，怕是处理不好总参部的工作，而中央也考虑到了，就给他调来了几个副总长，从而协助他的工作。这也看出中央对粟裕是比较看重的，不然也不会给他安排这么多的助手，然而粟裕的性格太执拗，不知道与人相处，在工作上与一些人有误会，他自己还不知道，所以1958年他就因为错误而被免职，离开一线。