开封战役后，关于下一步的作战方针原则问题，毛泽东和中央军委在给刘伯承、陈毅、邓小平和粟裕的电报中指出：“目前打很大规模的歼灭战，主客观条件都不成熟，故须避免。你们两大集团今后或者分开行动，每次歼敌以不超过一个整编师为限度，目前必须打有确实把握的仗，哪怕歼敌一个旅也是好的”。（《毛泽东军事文集》第四卷，第489页）
显然，毛泽东和中央军委认为，华野刚打完开封战役，再打更大规模的仗从主观到客观条件都不成熟。
关于到底打不打睢杞战役问题，即使在华野前指内部也有不同意见。有人认为部队打得非常疲劳了，应当即时转入休整，不宜再接着打下去。特别是大仗就更不能打了。显然，此时如果收兵罢手，不会出什么差错，上下左右也都会满意。
从敌情顾虑角度来讲，有不同意见也是可以理解的。因为此时的战场态势是：“东有黄百韬兵团的虎视眈眈，随时可以过来增援；西有邱清泉兵团的快速靠拢，随时可以打通联系；南有胡琏兵团的王牌部队，随时可以过来搅局”。各路敌人环伺，稍有不慎，容易打成僵局，出现不确定性。
但粟裕此时认为，豫东之战是扭转中原战局的关键一战，而且是对三个纵队暂不过江在江北打大仗战略决策的实践检验，必须争取更大的胜利。特别是第一阶段的作战，已经把敌人彻底调动起来，我必须抓住战机，乘势发起第二阶段作战。为此，哪怕是连续和疲劳作战，哪怕是罕见的硬仗恶仗，哪怕是带有一定风险，也一定要按照“先打开封，后歼援敌”的预定作战计划，寻歼援敌于运动之中，彻底打开中原战局。
粟裕迅速起草好了第二阶段睢杞战役的电报，他先签上自己的名字，请同意的前委同志一块签名，然后立即发出。时间是1948年6月24日19时。
在收到粟裕准备打睢杞战役的电报后，刘、陈、邓复电认为：“南北两部敌均很集中，我北面分割邱（清泉）黄（百韬）只能作战术分割，无法避免与敌十一个旅以上接触，似嫌歼击企图太多太大，而南面阻击亦将很吃力，须付出很大的代价，顾虑到不利情况，造成僵局，似以别作分散歼敌办法为好”。（《粟裕年谱》第327页）
众所周知，刘伯承打仗精于计算，往往是谋定而后动、先胜而后战，一般很少打无把握之仗。针对这样的一个总体战略态势，提出“歼击企图太多太大”，也是完全合乎情理的，也是完全可以理解的。
就在这时，毛泽东和中央军委复电，认为粟裕“部署甚好”，并且指出“在此情况下粟陈张部署在睢杞通许之线歼敌一路是很适当的”。
粟裕紧盯战场态势，为了抓住难得的战机，“不待查明敌军的具体部署，就指挥隐蔽集结于睢杞地区的华野主力部队，迅速楔入邱（清泉）、区（寿年）两兵团之间，围歼战斗力较弱的区寿年兵团，并在战斗中进一步查明敌军部署”。
得知粟裕发起睢杞战役后，刘伯承赞赏道：“这样的仗我是不敢下决心打的”。陈毅则感慨地说：“粟裕同志浑身是胆!”（《粟裕传》第一版，第690页）
经过6天激战，我歼灭区寿年兵团部、整编第75师师部和第6旅1个团，接着又给增援的黄百韬兵团以歼灭性打击，乘势结束战役。第二阶段睢杞战役，我共歼敌5万余人。
豫东战役，前后两个阶段共歼敌9万余人，一举打破了解放战争以来歼敌的新纪录，也彻底打开了南线战局。以此战为标志，拉开了由战略进攻向战略决战转变的序幕。