为迅速建成新四军新的领导机关，原苏北指挥部即作为新四军军部的部分基础，留给一师师部的人员，连同粟裕在内，全部官兵只有24人。1月17日，粟裕从盐城出发到东台，着手组建新四军第一师。
临别时，陈毅问粟裕："怎么样，人太少了吧？"
粟裕此次单独赴苏中，深感肩上担子的分量很重，但是有决心和信心完成任务。他爽朗地回答："好男不吃分家饭嘛！请军长放心，哪里有群众，哪里有敌人，哪里就有我们的发展。"
陈毅听了很高兴，连说："好！好！"
苏中位于长江以北、京杭大运河以东，北起斗龙港，东临黄海，面积约23000多平方公里，人口800多万。它以其重要的地理位置、经济状况、战略地位，成为日本侵略军、国民党顽军和中共领导的新四军三方必争之地。
粟裕认为，苏中是华中抗日民主根据地的重要组成部分，是华中战略区东南部的一个前哨阵地，又是将来向江南发展的一个重要基地，在抗日战争以至整个新民主主义革命进程中具有特殊的战略地位。中共中央曾指示，苏鲁战区是华中的一个基本根据地，应把这个地方看作是向西、向南，出鄂豫陕边和向闽浙赣边发展的策源地，"好像汉高祖的关中"。
粟裕在认真研究中央关于苏中战略任务的一系列指示和抗日战争战略方针的基础上，明确提出了领导发展苏中抗日斗争全过程的指导思想：苏中的抗日斗争，不仅应求得军事斗争的胜利，而且应把苏中建成基本根据地，而不是游击根据地或游击区。军事斗争应成为根据地建设的支柱，并且应为下一步夺取整个民主革命的胜利做好必要的准备。
面对极其复杂的苏中形势和艰巨的战略任务，粟裕认为，首先要以积极的作战行动打击、顿挫敌伪的进攻，从而坚定干部、群众的抗日信心，尔后不失时机地将工作重心由城镇转向农村，作战对象由顽军转向日军，作战方法由运动战转向游击战，并以游击战为中心，实行组织形式、领导方法、工作作风等各方面的转变。
根据斗争形势的变化，粟裕带动部队由游击战向运动战转变，把部队锤炼成正规兵团。新四军一师主力在1940年进行的黄桥战役和1945年春进行的第三次天目山（孝丰）战役，算是两次大兵团作战的雏形。
苏北地处长江下游及宁、沪侧面，地域辽阔、物产丰富、交通发达。黄桥镇位于江苏南通以西、泰兴以东的长江北岸，是向北、向东发展苏北抗日根据地的军事要地。苏北战场的成败与华中抗战前途关系极大，面对国民党韩德勤等部对华中新四军步步进逼的严重形势，中共中央中原局决定集中兵力首先解决苏北地区的问题。
黄桥地区东临串场河，北濒运盐河，南靠长江，西南有一条从泰州到口岸的通江运河。要进攻黄桥，只有东面偏北是一条旱路。黄"桥"黄"桥"，这个地区河多、桥多、路窄；对于顽军的重武器如各种山炮、野炮之类，实是天然障碍，窜犯固然不易，逃跑更为困难。而且，黄桥周围起伏的旱地，蜿蜒的干沟，又时值高粱半割半留、玉米旺盛茂密的季节，既便于我伏兵隐蔽、藏匿，又利于我骑兵迂回、突击，真乃英雄用武之地。
为了抢夺黄桥地区和消灭新四军，国民党韩德勤以其主力第89军（下辖第33师，第117师）和独立第6旅等11个团15000余人为中央纵队，以李明扬、陈泰运等为右翼纵队，地方保安队为左翼纵队，总兵力约3万人，9月30日由淮安、宝应地区南下，向黄桥大举进犯。
粟裕以5000人的战斗部队，精心运筹，巧妙应对，共歼敌11000余人，其中生俘第33师师长孙启人、99旅旅长苗端林等军官600余人，士兵3000余人，缴枪3800余支，机枪189挺，弹药和军需物品不计其数。韩德勤见大势已去，带上仅剩千余人的残部逃往兴化。此后一蹶不振，从苏北政治舞台上消失了。
黄桥决战，是新四军在苏北进行的一场前所未有的战役决战。战役的胜利，使新四军的发展出现了根本性的转机，给国民党集团以极大的震惊，对进一步打开华中敌后抗战局面、打破国民党的限制、从根本上改变华中敌我力量对比和坚持长期抗战，都具有十分重要的作用和意义。