1947年1月23日，延安方面给出了指示，将华东地区与山东临沂的党组织进行整合，也就是说将华中分局并入到华东局中，这样华东军区也就建立起来，而后山东野战军就同华中野战军进行了合并，最后成为了华野。
当时陈毅是华军区的司令，饶漱石政委，华东局中陈毅，黎玉，两人是副书记，书记是饶漱石。合并后的华野，陈毅担任司令与政委，粟裕则是副司令，主要负责华野的一切军事事务。起初华中野战军负责解放华东地区，而敌人在1947年2月就调集了大将的兵力，想要对华东野战军进行合围消灭。
为了能够争夺该现场的主动权，在这与敌人对抗使其受到重创后，就主动放弃了对临沂的进攻。然后就放敌人进入临沂，当敌军进入临沂后，可以说是非常嚣张，进入临沂的国军部队是74师与83师。
不过张云逸就我军撤出临沂后还进行了公开讲话，说蒋军一定会被歼灭，而临沂也将会被收复。在临沂失守之后，华东局与华东军区就直接向沂蒙山进行转移。只过了三个月，粟裕就带着华东野战军将74师歼灭在了孟良崮，该师的师长张灵甫也在这次战斗中被击毙，算是给敌人一个重创。
在这个过程中，华东局还有华东军区的领导机构也都是同华野的司令部一起行动的，所以各级领导也都进行过各种合作。然而在1947年夏天的时候，事情就发生了转折，为了配合刘邓大军向大别山挺进，军委就让华东野战军在7月时调出五个主力纵队向外线杀去，这样就可以深入敌人的后方给他们一个重击。
而后陈毅和粟裕就带着部队在内线作战，可是在7月的中旬，在南麻，临眗的战斗中，我军先后失利，再加上外线作战情况也不容乐观，这就使得华野不得不再次进行分兵，也是为了更好的将战局扭转过来。
华野剩下的部队又被分成了两部分，一部分去鲁南地区，支持华野的主力作战，由粟裕带领，另一部分则是去胶东根据地作战，在华东局以及华东军区的领导机构带领下。1947年8月去往胶东的部队出发了，由张云逸，饶漱石，黎玉等人带领。
没多久谭震林带领的部队也开始向诸城转移，当时他带领的部队伤亡比较大。没多久在胶东地区的7纵，9纵以及13纵就进行了重新整编，成为华野的东兵团。而这也就是之后的山东兵团，其司令是许世友，政委谭震林。
从那之后，华东局与华东军区的领导机构就同华野司令部分开了，而且他们直接指挥山东兵团的作战，并且这一分开就持续了一年多。1948年9月在济南战役将要开始之前，华野司令部又再次同华东局以及华东军区的机关会面了。
两个月后就开始了淮海战役，而这场战役中华野的作用是非常大的，也多亏了陈毅与粟裕的领导，后来毛主席对华东军区进行了领导改组，陈毅就被安排去当副司令，这让很多人不理解，陈毅之前可是华野的司令，为啥让他去当二野的副司令呢？
因为陈毅能够调停二野与三野之间的矛盾，再加上他在政工方面的工作比较出色，也有大局观，让他当这个牵线人员最合适不过了。后来在解放上海时，陈毅也给军委提过建议让三野来打，二野来接管，让他们在上海可以进行休整与补充，可军委没有同意陈毅的建议。
之后陈毅就成为上海的市长，二野则还有其他的安排，主要是因为上海虽然被解放了可还存在一些危机，需要三野在这里稳住局面，让陈毅更好的掌控上海。