蒋介石逃往台湾后，并不甘心于他的失败。1950年初，蒋介石召开了高级军事会议，决定了这样几件事：一是阻挠解放军解放沿海岛屿，二是破坏新中国的经济恢复和建设，三是对上海及沿海城市港口加紧空中轰炸，特别提出要将轰炸的重点置于上海。
蒋介石和他的高级将领们认为，国民党军依然占有海、空军优势，依然可以对共产党的军队造成一定威胁，他们甚至扬言道：“共产党能攻占上海，但保卫不了上海”。蒋介石更是极度疯狂地叫嚣：“要毁掉上海，臭掉上海，叫上海瘫痪！”（《粟裕传》第一版，第845页）。
从1949年10月到1950年2月，蒋军对上海市区前后轰炸高达26次。2月6日是最高峰的一天，当天蒋军共出动“几十架次的轰炸机、战斗机，轮番轰炸、扫射上海电力公司、水电公司等重要目标，造成大范围停电，人民群众1400多人伤亡，导致不少工厂企业停工，市场物价波动，群众恐慌不安”。
针对蒋军的疯狂空袭和破坏，着眼保证上海人民的生命和财产安全，加强华东沿海的空中防务，中央决定成立上海防空司令部，并组建上海防空军。中央任命：“上海防空军司令员由陈毅兼任”，同时决定“粟裕暂时放下南京方面的工作，到上海协助陈毅指挥作战”。由于陈毅担任上海市市长，政务工作很忙，中央决定上海防空军“军事方面的事务主要由粟裕处理”。（《粟裕传》第一版，第846页）
对于中央的这样安排，有些干部不是十分理解，表示说：“上海有个陈老总还不够，还要把粟司令请来？究竟有多大的事，大惊小怪，制造紧张空气啊！老子小米加步枪打出了天下，一个上海有什么了不起”。（《粟裕传》第一版，第846页）
针对一些干部思想认识方面存在的问题，粟裕到上海后首先从新形势新任务教育入手，很快就组织召开了上海防空军干部会，旨在摆事实、讲道理，统一各级干部对上海防空问题的思想认识。在会上，粟裕做了“5个新”的报告：第一个“新”，就是要面对新情况采取新对策，主要是同敌人在空中进行轰炸与反轰炸的军事斗争；第二个“新”，就是要有新的思想，主要是具备新的现代化的作战思想，以适应新的战争形式需要；第三个“新”，就是要有新的武器，主要是上海防空战使用苏联援助的最新防空装备，必须发挥最大的作战效能；第四个“新”，就是要有新的作战方法和技术，主要是对空作战是诸兵种协同作战，每一个动作都要经过战术设计、精确计算；第五个“新”，就是在新的地点上海，打一场新的防空战争，主要是上海只解放了领土，没有解放领空，没有制空权的大上海是不能生存的。
在防空作战力量准备上，陈、粟报请中央同意，紧急抽调原拟用于首都防空的两个高射炮团到上海，同时“聘请苏联一个混合空军防空集团协助进行上海防空作战”。
在作战保障准备上，粟裕抽调60个连的部队参加防空基地建设，“在上海、南京、浙江、徐州、济南、青岛建成一级机场9个，简易机场1个，还有5个飞行基地，6个场站、1个飞行修理厂”。
特别值得一提的是，上海虹桥机场紧前建设、全力建设、超常建设，用1个月便完成了1年半的工作量，创造了机场建设史上的奇迹。当时，苏联空军中将巴基斯基到现场参观以后感叹地说：“陈毅就是力量，粟裕就是力量的支柱”。（《粟裕传》第一版，第847页）
此外，粟裕还把上海防空战同华东空军建设有机地结合起来。根据中央军委由第三野战军和华东军区负责组建华东军区空军的指示，粟裕到北京请示周恩来副主席，并与军委空军协商，“计划第一批建立5个空军师，第2批组建4个空军师”。
从1950年2月到5月，历时3个多月的上海防空战胜利结束。在此期间，华东空军共击落美制蒋机16架，锻炼出了我军第一支空军战斗部队以及王海、张积慧、刘玉堤等一批优秀飞行员。同时，以战促建、战建并举，利用上海防空战的契机，加快完成了华东空军和基地的有关建设。