1949年陈粟联手打响上海战役，我军仅用十六天就攻克了国民党苦心经营多年的坚固防线，更重要的是解放军全程几乎没有动用重炮，尽力保全了上海建筑的完整性。期间消灭了十五万国军，而自身的伤亡也是空前惨重，仅仅一战，有三万多的伤亡。要知道在前不久的京沪杭战役中，我军一口气消灭了国军四十三万人，自身伤亡六万。而在上海战役中的伤亡，就占据了京杭沪战役的一半。三大战役胜利后，我军乘胜发起了渡江战役。百万雄兵剑指京杭沪一带。在此之前，老蒋已经做好了完全的迎战准备，集中仅剩的王牌军队和美式军械，将上海打造成了一个铁桶。妄图利用上海在国际社会的地位，打压共产党，从而挽救自己所面临的不利局面。然而事实证明，老蒋竹篮打水一场空。
在党中央和陈粟等领导的指挥下，百万雄兵一夜之间穿过了长江，三天击溃汤恩伯集团，彻底摧毁老蒋倚重的长江防线。在此后的二十天中，二野，三野快速消灭了汤恩伯五十多万人马，解放京杭沪一带多个重镇。五月，老蒋带着南京残部退守台湾，汤恩伯也带着仅剩的二十万残兵，一口气逃到了上海，积极构筑防御工事，打算与我军展开一次持久战。粟裕等指挥员非常清楚敌人的真实意图，要想彻底解放中国，必须将老蒋手里能用的兵全部消灭。在京杭沪战役中，国军的没有太多的抵抗，使得三野顺利攻克南京。而敌人抵达上海后，非常积极地建造防御工事，对方显然是把上海当成了救命稻草。
经历了多场硬仗的粟裕，却对上海战役深感艰难。上海是当时中国第一大城市和经济中心，也是世界各国人士的聚集之所，最让中央感到头疼的便是美国，老蒋当时已经与美国达成了合作关系，严令蒋介石务必守好上海。当时国际局势十分复杂，美国对于国共之间的战争明显已经有心无力了。而国民政府又不愿轻易放弃，只能驻守上海，等待国际局势的转变。美方的条件是国民政府必须坚持半年以上，到时候他们在美国打造的二线兵团就能隆重登场，到那时反攻南京就是轻而易举的事。可当时手下的士兵作战情绪非常低落，有不少人都生出了投诚的念头。当然老蒋不会给他们这个机会。
他多次亲自看望军队，并且还让李宗仁上台做演讲。除此之外，老蒋还动用了手中最后一张王牌，空海军。五月初，在蒋介石的授意下，汤恩伯集中二十万人，其中包括三支特编空军，两大支海军，在上海四处抓壮丁修工事。战役爆发之前，国民政府不断散播第三次世界大战的谣言，煽动民众游街抗议。还请来了美国军队和国军一同防守。美国为了扭转在国际上的不利局势，派遣了一万多军队停靠在青岛港口，妄图与蒋军展开一次南北夹击。在了解敌我形势后，中央更加坚定了解放上海的决心。五月初，粟裕将指挥部搬到了苏州，便于及时了解战场情况。上海除了拥有特殊的地理位置之外，更重要的是此地的工业生产总值占全国的一半，上海遍地都是工厂，贸易占比非常大。
上海战役一旦爆发，这些基业将会化成一片废墟，数万民众将会流离失所。就算解放了上海，没有了这些工商业，就没有钱买先进的技术，装备，难保西方列强不会再次侵入中国，所以不仅要解放上海，还要尽力保全这些工厂。十日，中央通过了三野制定的作战方案。此次战役三野将兵分三路进攻，粟裕亲点叶飞率领二十八军和二十九军为西路军，两天后从常熟进攻。宋时轮领导的九兵团为东路军，统一指挥叶飞纵队和自己手下的五个军作战，东西路军从两翼发动进攻，先打吴淞口，切断上海守军退路，之后两军在正面会合发动总攻。战斗打响前，毛主席特意强调，各部尽量不使用重武器，尤其到了市区，炸药等装备禁止使用。
二十三日，三野第九，第十兵团联合打响上海战役。粟裕刚下完总攻命令，前线各军军长就收到了陈毅的电报，反复向他们强调，打赢的前提必须保障人民的生命财产安全。军长们当即立下军令状，随即带着军队在黑夜之下迅速突进，打得国民党军摸不着东西南北。在激战中，竟出现了这样滑稽的一幕，淞沪警备司令部的通信员，把国军上级下达的作战指示亲手送到了二十七军手上。战士们三下五除二就绑了国军通信员，并从他嘴中套出了许多有用的信息，二十七军一鼓作气直接打到了敌军指挥官的办公室，活捉八名高级军官。消息被放出后，那些拼命抵抗的国军部队瞬间偃旗息鼓。二十七军只用了两个多小时就攻克了上海东郊一处重要据点。
次日拂晓，二十七军几乎占领了苏州河以南地区。二十五日凌晨一点，叶飞第十兵团向吴淞口奔袭。值得一提的是，叶飞手下只有两个军三万多人，并且他们出发的地点常熟，与吴淞口相距一百三十公里。按照解放军正常的行军速度，最少也要跑上九个小时。这还是路途中没有任何阻碍才能完成的目标。而奔袭途中，叶飞纵队要以两个军的兵力突破五个国民党主力军严密的火力网，并且还要根据九兵团的作战情况尽可能向前推进。这个任务对于叶飞他们而言，难如登天。叶飞火急火燎给粟裕打了通电话，表示自己手中兵力不足。粟裕了解情况后，立即把九兵团麾下的二十六军划到十兵团。兵力得到解决后，叶飞立即给各军布置了作战任务。
凌晨四点，胡炳瑜带着二十九军从苏州发动进攻，主力军还没来得及发动进攻，先锋部队就攻克了敌军一处据点。同时二十八军也顺利在上午九点拿下嘉定，太仓等要点。在短时间内就攻克这么多重镇，战士们几乎都出现了轻敌的心理。各军的领导都察觉出了异常，虽然国民党士气大不如前，倒也不至于这么容易就被打倒，难道是他们觉得胜利无望，所以选择了不抵抗？将领们立即否定了这个猜测，老蒋的性子他们再清楚不过了，只要有一线希望，对方是绝不会放弃的。在他们苦思冥想之时，通信员收到了叶飞发来的指示，提醒他们要多注意战士们的情绪，越往前面越要小心，以防敌军偷袭。
各部将领也将上级的指示传达给了士兵们。尽管如此，还是出现了重大伤亡。战斗初期，二十九军采取两翼牵制，正面进攻的策略，一举拿下东面高地，却没想到一脚步入了二十五师设下的圈套。对方提前派兵埋伏在周围，并秘密切断了我军所有退路。二十九军遭受重创后，集中所有火力向同一方向进攻，经过一番激战终于打退了二十五师。由于伤亡太重，军长决定等天黑再次进攻。当晚十二点，二十九军兵分三路悄悄进入国军营地，正准备进攻时，突然从前往窜出来一颗颗子弹，几乎全打在了先锋290团，其余部队在友军的掩护下安全撤出战场。看着战友在自己面前一个个倒下，各部将领心急如焚，可敌人火力太猛了，无法从正面支援。
军长立即组织了三支敢死队，从两翼穿插到敌军碉堡中心，摧毁其指挥中枢，再配合外面的部队一举突破。经过三小时的激战，终于拿下敌军碉堡群阵地。汤恩伯立即撤回军队向城内潜逃，叶飞早就想到了这一点，提前让二十六军埋伏在路上。战至二十六日上午，二十八军，二十九军顺利在吴淞口会合，两军合力一举突破敌军防线，国民党刘昌义见大势已去，率部向我军投降。当天下午，九兵团，十兵团在城外会师。随后向敌军发动总攻，仅半小时便俘虏了一千五百名国军，经过三小时的激战，顺利歼灭一万多名国军，战至下午，解放上海。