1946年9月，陈毅因受到敌战区剿总司令薛岳的迷惑，不顾苏中军区的求援，紧急调遣陶勇和王必成中将南下策应安徽蚌埠，又将主力军东进驰援两淮，却犯了两个重大错误。
将主力军北移，没有先打强敌，在猛攻泗县时，被敌军师长张灵甫适时捕捉战机，亲率一个整编师迅速推进，兵分两路，直扑泗阳，后攻淮阴，陈毅战场先机已失，虽紧急抽调一个纵队和一个旅的兵力回援泗阳，但血战两天两夜，全军付出惨重的伤亡代价，也没能够取得有效的战果。
陈毅
其次，陈毅在明知淮阴有沦陷的危险时，没有做到坚守死战，导致我军江苏和安徽根据地失去了首府，作为全军统帅他有不可推卸的责任，而粟裕大将却在江苏中部七战七捷，战果对比鲜明。
所以战后陈毅针砭时弊，向延安急电一封请罪电文，坚称此次战斗失利，并不是作战计划和军队的问题，他愿意承担战争失利的一切责任。
延安总部机关在认真听取陈毅的检讨后，提出让他让出全军总指挥的职务，让山西统战大局的徐向前东进，负责前线指挥，而陈毅则是率军前往淮海打援的建议，却遭到了主席的严词拒绝，坚决不同意临阵换帅。
但却建议山东和华中联合整编，裁撤山东和华中的军区、野战军，两军扩编改组为华东军区和华东野战军，军区领导班子的构成以陈毅为司令，张云逸大将出任副司令，饶漱石出任政委，陈士榘上将出任参谋长职务，而华东野战军的领导班子以陈毅为总司令兼政委，粟裕大将出任副司令，谭震林和陈士榘先后出任野战副政委和参谋长职务。
总部对陈毅非常信任，继续让他担任全军第一领导人职务，但具体作战指挥任务，全权交由粟裕大将，做到军政分离，扬长避短，但又相辅相成。
粟裕
1947年第一季度，华东军区和野战军相继整编完成，陈粟大军的兵力首次突破到了27.5万余人，当时由于新军初成，内部有很多老资格的骄兵悍将，如许世友、宋时轮、王建安、叶飞和谭震林等人，在红军时期已经坐到了军长的位置上。
而粟裕仅仅只是一个军团参谋长，不仅资历较浅，还在谭家桥战斗中被敌战区司令王耀武打得溃不成军，所以这些人一开始对粟裕非常不待见，甚至说他只是一介文弱书生，根本不会打仗。
但陈毅是老革命，对总部的命令向来执行得不折不扣，所以在陈粟大军成立的第一天，就在战前动员大会上表示了对粟裕的全力支持：你们这些骄兵悍将，谁也不要在粟裕面前摆资历，他的职务是总部和主席亲自任命的，前线战役一应指挥事宜全交由粟裕指挥，他说的每一句话都是军令，战场上军令如山，必须执行，就连我这个总司令也没有二话，如果谁胆敢阳奉阴违，那就休怪我不讲情面。
粟裕
可能在军事指挥上，陈毅比不上粟裕，但在资历地位和威望上，粟裕就比不过陈毅了，所以有了陈毅在后方坐镇，粟裕才能在华野接下来的一系列战役指挥中如鱼得水，而这也是后来，粟裕多次向延安斗胆直陈华东不能缺少陈司令的主要原因。
也就是从这时起，我军内部就留下了“陈不离粟，粟不离陈”的美谈，而粟裕也没有辜负陈毅和延安总部领导机关的期望，在接过野战军指挥大权后，先在宿迁战役中拿下了敌高层的爱将戴之奇部，在莱芜战场和孟良崮战场上，先后端掉了李仙洲部和张灵甫部。
尤其是1947年发起的孟良崮战役，粟裕大将连攻带阻，调集许世友的主力纵队将贪功冒进，孤军深入的敌军王牌整编74师，全歼在山东的孟良崮山区，这一战不仅开创了我军歼灭整编师的战场记录，也彻底扭转了山东地区对我军不利的形势，为日后解放山东省会济南打下了坚实的基础。
陈毅与粟裕
后来在陈毅的鼎力支持下，粟裕又相继打出了河南豫东、山东兖州、山东济南、徐州淮海、渡江决战和上海淞沪地区的解放大捷，为我民族自由和全国人民解放大业居功至伟，也让粟裕在华东军区和野战军中的威望和地位日益加深，最后哪怕陈毅调任其他工作，粟裕也能将百万大军指挥的如臂使指。
1984年，77岁的粟裕大将因病离世，国家在他葬礼上专门采用了一句讣告通知：生前尤擅指挥百万大军大规模作战，这在1600多位开国将帅中，是绝无仅有的。