1949年5月，陈毅从高级指挥官成为一个市的市长，这样大的转变对于陈毅来说是很大的挑战。与其他的城市相比，上海是比较特殊的。主要是因为这里的情况比较复杂，不仅有国民党的残兵散勇搞混乱，还有特务搞破坏与暗杀，甚至这里的投机家还搞金融危机，蒋介石还时不时的派出飞机对这里进行轰炸。最重要的就是难民以及旧的政府官员该怎么安置。
在上海解放之后，很多社会问题都需要赶紧解决，这对于陈毅来说是一副重担，可他们这一批共产党员也必须接受。1949年初，上海还没有解放时，毛主席就已经在关注上海之后让谁来管理，以及之后该怎么发展。
1949年3月5日七届二中全会召开，会议上邓公提出要让陈毅来当上海的市长，毛主席也很仔细地考虑了这个提议，之后又遵循了陈毅的意见，而后陈毅也服从了这个命令，并且还提出了自己的看法。
陈毅觉得上海是中国的大都市，并且还有东方巴黎的称呼，所以他希望中央能够重视上海的发展工作，就像对东北那样重视。在会议上还有人提出让苏联的专家来协助管理上海，可陈毅却坚决的反对，因为他觉得这是我们自己的事情，应该我们自己来做。
陈毅为了保存上海，在解放上海的时候，还专门部队里两千多名政工干部做了思想工作，让他们不要用炮火轰炸上海，也不能采取爆破手段，进城之后也不能进入百姓家。陈毅以及党中央会这么做也是想要给上海人民一个好的印象，这样也有利于之后的管理工作，假如进城就造成混乱，那么之后的工作就更不容易开展了，还有可能被人轰出去。
因为不能动用重武器，所以三野在解放上海的时候可以说付出了惨痛的代价，而且这里可是国民党派重兵把守，想要攻占真的很难，当时有七千多名战士丧生，受伤的战士更是达到了两万多。
因为我军对之前的规定严格执行，减少百姓伤亡的同时进入城内战士们也没有打扰民众，反而整齐的睡在大街上，这给上海人民一个非常好的印象。在上海解放以后，5月28日的下午，陈毅一切准备就绪来到上海市政府的二楼大厅中，与之前管理的人选进行了工作交接。赵祖康在当担任几天的市长，就必须放弃这个职务了，好比他看的开，直接带着旧政府的工作人员在这里等着陈毅的到来。面见后，陈毅就特别严肃的问：你是国民政府的上海管理市长赵祖康吗？管理会的条例你都做了吗？
赵祖康都一一回答了，而陈毅也很满意这个回答，之后就热情的与赵祖康拥抱，然后工作交接完成了。赵祖康之前是工务局中当局长，上海在解放的前四天，他没有去台湾，之后就被任命上海的代理市长。在工作交接完之后，赵祖康就准备去交通大学当老师，也算是将自己的长处发挥出来。
陈毅在知道赵祖康对市政工程以及道路方面很擅长，于是就提议让他来当工务局的局长，也算是为国家继续做贡献，这让赵祖康特别的感动，他没有想到政府没有对他进行清算，反而重用他，即便是几十年后，他对陈毅还依旧心存感激。
陈毅接管上海之后，首先需要解决的就是旧政府官员该怎么安置，根据相关部门的统计，旧政府在上海的官员达到了1.4万人，而且他们都入了国民党，还有一些人做了对不起人民的事情，那么到底该怎么处理呢？
如果将这些人都一一罢免可能会使上海大乱，而这也不是陈毅想要看到的。按照流程，相关人员将一些犯了大罪的人列一个名单等待陈毅处理，不过陈毅在想来想去后决定一个也不杀，为此他还专门请示了中央，而中央也同意他的做法，就这样陈毅在上海的威望慢慢提高，将上海的局势也稳定下来。