1939年8月，养病结束的徐海东（养病前担任八路军115师344旅旅长）被任命为新四军第四支队司令员，前往皖东地区发展根据地。作为一位经验丰富的老革命，他到任后，很快就把部队从几百人扩充到了两三千。
但令徐海东没有想到的是，时任东南局书记、新四军政委的项英却对他的成绩提出了批评，他反对“招兵买马”，不许建立根据地，怕产生摩擦，刺激国民党，于是下令实行“精兵主义”，一刀把徐海东的第四支队砍到了不足千人。
有着同样遭遇的，还有时任新四军第五支队司令员的罗炳辉。两位司令员痛心疾首，大家的抗日热情也普遍受到了打击。
徐海东后来回忆说：这一局面，直到后来少奇同志率领中原局抵达皖东后才彻底扭转。
1939年10月下旬，时任中原局书记的少奇同志来到皖东，在几个月的时间里，先后主持了三次中原局会议，明确批评了“一切经过统一战线，一切服从抗日”的“两个一切”口号，提出了“东进、东进、再东进！广泛猛烈地向东发展，到敌人后方去，不到海边绝不停止”的口号。
中原局向各级指示：我们必须独立自主地区组织武装，不必等待任何人的允许，不必与任何人商定所谓的“共同纲领”，应完全依照我党历来的主张，独立地去进行。
在这个方针的带领下，截止1940年5月，刘少奇到中原局工作才一年半（到皖东半年多），就拉起了一支数万人的正规部队、几十万的地方武装，建立了广泛的政权。在这之后，他又提出了向东打开苏北，发展华中的军事战略方针，以期能将山东的八路军和江南的新四军连成一片。
经过郭村战役和黄桥战役，到1940年10月，“开辟苏北，发展华中”的战略任务胜利完成，新四军和八路军终于连成了一片，这是我军历史上非常重要的一页。
为了统一华中的军事指挥，11月19日，少奇同志致电中央，提议由陈毅担任八路军新四军华中部队总指挥。中央答复：在叶挺、项英未过江之前，华中部队总指挥由陈毅代理，“胡服”（少奇同志化名）为政委。
一个多月后，中央正式决定：将山东分局划归中原局管辖，中原局统一领导山东和华中的工作。这意味着，新四军的活动重心逐渐从江南向江北转移。
这里有必要介绍一下当时中原局和新四军的渊源关系：1938年六届六中全会结束后，王明的“两个一切”路线破产，原来领导南方的工作的长江局被撤销，一分为三，变成了中原局、南方局、和东南局。
南方局由周总理主持工作，办公地点在“陪都”重庆；中原局由少奇同志领导，从河南向华中发展，占据了连接新四军和八路军的枢纽地带，因此所部既有八路军，又有新四军；而东南局则由项英领导工作，工作地点在江南，所部绝大部分为新四军。
项英是一个老革命，红军长征后，他留在老苏区苦苦坚持3年，可以说是历尽艰辛，功勋卓著，但他也因为长期远离中央，无法了解我党在长征路上的路线转折，和到延安后的政策变化过程。
他在1938年才前往延安参加了具有历史转折意义的六届六中全会（毛主席称之为“决定中国之命运”的会议），在这个会议上，王明路线彻底破产。但项英并没有参加完会议的全程，在会议中期，由于叶挺军长负气出走，武汉沦陷，项英紧急返回了新四军。
项英的中途离开很大程度上影响了后来新四军的命运，因为在这次会议的前半段，王明是先声夺人，占据主导权的，到了后半段，毛主席和少奇同志等人的报告和发言，才使得会议走向整体大翻盘。项英错过的，正是这至关重要的后半段，这导致他在后来的工作中，出现了思想跟不上趟的情况，比如他回到新四军后，仍然用“两个一切”的口号要求徐海东和罗炳辉，禁止我军大规模发展。
少奇同志领导的中原局的工作开展的有声有色，项英领导的东南局则停滞不前，这形成了鲜明的对比。最为关键的是，在当时的情况下，我军发展的重心在江北，而不在江南，这是一目了然的，但项英却对此缺乏足够的认识。
在皖南事变发生前，中央和中原局曾多次给项英发电，劝他把新四军的军部迁到华中来，口气不可谓不苦口婆心，但始终难以说动项英这位政治局常委。
在皖南事变发生半年多前（1940年4月），少奇同志就明确对项英指出：“顽方必然要摧毁我江南军部”。皖南事变一个多月前，少奇同志再次急电项英：“从速北移……如果迟缓，恐有被顽固派阻断封锁可能……皖南新四军军部北渡道路很可能被切断……”
然而，项英却一直踌躇不前，最终在1941年1月6日，皖南事变发生了，到1月14日，“弹尽粮绝”的噩耗传来，江南的9000多部队，最后只有2000多人成功突围。
皖南事变结束后3天，蒋介石下令撤销新四军番号，同一天，少奇同志向中央建议，应该立即重建新四军。3天之后，中央下令重建新四军军部。
2月18日，中央军委决定，将原本江北指挥部的陈毅、粟裕部整编为新四军第一师；张云逸、徐海东、罗炳辉部整编为第二师；黄克诚部整编为第三师；彭雪枫、张爱萍部整编为第四师；李先念部为第五师；仍留在江南的谭震林、张鼎丞部整编为第六、七师。
这支新的新四军共计9万人，其中包括新四军的部队1.8人，（2、3、4、5师原本都不属新四军军部管辖）。
皖南事变后，鉴于东南局已经不能发挥作用，中央遂将其合并入中原局，工作由刘少奇、饶漱石、曾山、陈毅等主持。由于“中原”二字不能指代“东南”，中央将新的“中原局”改名为“华中局”，辖区包括新四军活动的所有区域。少奇同志担任书记，同时兼任中央军委新四军军分会书记兼新四军政委，成了华中地区最高的军政领导人。
为了处理皖南事变遗留下来的一系列问题，少奇同志首先着手整顿部队的思想政治，他一针见血地指出：过去，我们的同志“没有按中央的指示，深入敌后，举旗民族抗日的旗帜，求得发展壮大，被统一战线束缚了自己的手脚。结果在皖南的弹丸之地守株待兔，守了三年，没有守到兔子，却守来了一只老虎，反而把自己吃掉了。”今后我们必须扫除一切疑惑，集中力量发动、组织和武装群众。
从38年到41年，少奇同志到华中前后不到三年，就一举扭转了华中的局面。1941年9月，中央在延安召开政治局扩大会议，即著名的“41年九月会议”，在这次会议上，少奇同志凭借他此前在华北和华中的瞩目成绩，被大家推举为我党在国民党区域（即“白区”）工作的“正确领袖人物”。
到1942年3月，刘少奇宣布自己将离开华中局返回延安时，新四军的主力部队已经发展到了13万，加上华中局领导的山东根据地的数万八路军，我军在华中的军队已经超过了20万，这样瞩目的成绩，无疑是少奇同志革命生涯中所创造的最光辉的几个成绩之一。