蒋介石接到汤的求援以后，十分焦急，他立即命令孙连仲第2集团军加速南下，全力攻击唐河、泌阳、桐柏一线，阻挡日军的两翼合围，彻底击溃日军的合围战术。
同时，令汤恩伯第31集团军主力立即北上突围。
于此同时，李宗仁也紧急调整部署，令左翼李品仙、右翼张自忠所部立即全线反攻，务必固守要点，迟滞日军进攻，令江防军从侧翼猛攻日军，切断左翼日军第13、16师团以及第4骑兵旅团的交通补给线。
更重要的是，李宗仁还命令孙连仲第2集团军，立即南下阻挡日军的合围，这一点同蒋介石的命令相同。
此时，日军已经激战了10天，经过大小数十场激战，尤其右翼第3师团第29旅团损失严重，尽管左翼2个师团又1个骑兵旅团伤亡损失相对较小，但是，他们的战线拉长到250多公里，沿线均有右翼张自忠集团军很多部队，就像伸长一个脖子，很容易被人斩断。
所以，李宗仁命令张自忠，李品仙兵团，以及江防军从左右侧翼攻击日军，这就正好击中日军的软肋。
同时，李宗仁还命令大别山后方的游击部队，立即全线出击，攻击日军后方。由于日军后方卫戍部队已经不多，正是抄他老巢的好机会。
不过，这些都是相对次要的，关键在于汤恩伯抢先一步突围成功，以及孙连仲第2集团军能够阻挡住日军的两翼合围。
10日，“
日军飞机20余架向第85军第4师阵地猛烈轰击，并投掷毒气及烧夷弹百余枚，继以其步兵攻击，该地守军一营，奋勇抵抗几至全部壮烈牺牲”。
中国军队顽强抵抗，与日军形成对峙。但此时，汤恩伯第31集团军处境已十分危急，西侧日军已开始向唐河转进，三面日军即将完成合围。
这时，其他各部都已转移，第31集团军各军阵地已无固守必要，汤恩伯遂下令各军转移。
第13军2个师(外加2个独立旅)由军长张轸率领留守桐柏山担任游击，并且，掩护主力撤退，其余四个师由汤恩伯率领向唐河转进。
汤军团各部于11日凌晨，开始按计划转移。转移期间，又受到日军轻快部队袭击，部队被分成数段，受到一定损失。
幸而，此时第2集团军第68军第119师在桐柏以东地区，持续抵抗长达6日，汤军团得以向泌阳方向转进，跳出了日军的包围圈。
第2集团军是一支经过无数次防御血战的强悍部队，于1937年8月上旬，由原西北军一部第26路军改编而成，刘峙担任集团军总司令，他是蒋介石五虎上将之一。
刘峙毕业于保定军校第二期，1924年黄埔军校成立后留在黄埔军校，担任战术教官。他早年打仗非常厉害，有着常胜将军之美誉。尽管后来打了很多败仗，但刘峙依然是蒋介石比较器重的战将之一。
而原来的第26路军总指挥孙连仲则担任集团军副总司令，下辖第27、30、31三个师，归第一战区指挥。
不过，最初的第26路军所属部队跟后来的还不一样，原来的孙连仲嫡系其实只有第27师和独立第44旅；而第30师和第31师，则是吉鸿昌将军的第22路军撤销后，所余部队转隶而来，最终都归入了孙连仲系统。
孙连仲的第26路军很特殊，它在军费和武器供应上需要老蒋划拨，甚至其嫡系第27师还被列为首批调整师编制，得到了优先补充。对于老蒋的命令，孙连仲的执行也很坚决，甚至比一些中央军嫡系还好用。
但是，老蒋并不能介入到第26路军的人事，其始终保持了一种独立性，因此，长期以来仍被视为是西北军。
1937年全面抗战爆发后，第26路军率先北调增援，而且，该部因为跟平津的第29军系统历史上都属于西北军，关系还非同一般；就孙连仲本人来说，他也是河北人。
不过，待该军开往河北前线后，第29军实际上已告失败，所以，其便编成在刘峙的第2集团军之下，就地参与作战。
刘峙的指挥自然是一言难尽，在其一路南溃之后，第26路军由河北转进至山西，预定使用于忻口方向。
同时，原刘峙的第2集团军撤销，孙连仲的第26路军则改为新的第2集团军，随后，又紧急参与了娘子关战役。
历经河北平汉路北段及山西娘子关战场的两度大战后，孙连仲的第2集团军折损严重，甚至战斗兵员仅剩3000余人，可谓元气大伤。
孙连仲旧照 图片来自网络
不过，孙连仲久经战场，而且西北军对于招兵、练兵很有一套，尤其还有长期经营华北地带的基础，所以在恢复实力方面，要远比一般部队为快。
其一、抢救伤员的效率很高，故而有相当一部分伤愈老兵归队；
其二、战时就已派人到河南招募新兵，兵力的征集效率很高；
其三、有意识地收留老家河北的逃亡学生，并组建干部训练所，因此，骨干的培养也早有着手。
所以，在大战严重战损之后，第2集团军的恢复效率很快，仅仅三四个月时间，就恢复了大半元气。
经过休整补充之后，第2集团军在1938年3月，又转至第五战区，投入到了徐州会战的战场上。
根据时任第2集团军总部参议孟企三的回忆，当时，该军的总兵力已经恢复到了24000人，所辖的部队依旧则是第27师、第30师、第31师和独立第44旅。
以当时的部队编制而计，步兵师为两旅四团建制，独立旅为二团建制，则全集团军总计有14个步兵团。
按此兵力数及建制部队而计，第2集团军的兵力数尚未恢复到理想状态，但是，他们仿照原西北军时期的步兵团编制，以1000余人的标准进行步兵团的重新配置。
如此，加上集团军及各师、旅直属队，便形成了新的战斗编制。
徐州会战中，当滕县城守军告急之时，第五战区司令长官李宗仁命第二集团军孙连仲部，星夜急行军到台儿庄布防。
3月24日清晨，日军第10师团以猛烈的炮火轰击台儿庄防御工事，随后步兵以坦克为前导，向台儿庄步步进逼。
防守这里的第2集团军第31师在无坦克和平射炮的情况下，与日军短兵相接，展开肉搏战，使日军的大炮坦克无法发挥作用。日军猛攻三昼夜，占领了台儿庄围寨的东北角，双方展开了激烈的巷战。
至此，中国守军已伤亡过半，渐有不支之势。战斗持续到4月3日，第二集团军的将士伤亡达70%，2/3的阵地已为日军占领。
第31师师长池峰城认为，如此下去，必致全军覆没，遂向第二集团军总司令孙连仲请求将余部暂撤退至运河南岸。
孙总司令电话请示李宗仁司令长官。李宗仁深知台儿庄之危，即严令外围的第20军团汤恩伯部迅速南下夹击日军。
不过，三令五申之后，汤军团仍在抱犊崮东北姑婆山区逡巡不进。最后，李司令长官训诫汤恩伯军团长，如再不听军令，致误戎机，当照韩复渠的前例严办。
同时，电话命令第2集团军孙连仲总司令：“
敌我在台儿庄已血战一周，胜负之数决定于最后五分钟。”
日军血战经旬，已精疲力竭，数日来为日军占领的台儿庄阵地，又被中国军队一举夺回3/4，日军死伤无数，退守北门。
黎明时分，台儿庄北面炮声隆隆，汤恩伯军团已于日军背后出现，日军撤退不及，陷于重围，第2集团军与兄弟部队一起打出了著名的台儿庄大捷。
胜利的取得，依旧需要苦战，甚至是付出很大的牺牲。
按照第2集团军统计，徐州会战中，其2万名战斗兵员中，此战即伤亡11666人，可以说减员过半，尤其战损最重的第31师，战斗员伤亡率达到了75%。
这次随枣会战中，5月11日，第2集团军第30军30师89团一部经过急行军，抢先一步，占领唐河县城。
12日晨，日军骑兵第4旅团由张店进攻唐河县城，行至西大岗时，该团和县常备队依托有利地形对其进行猛烈抵抗。
在唐河抗击日军的中国军队 图片来自网络
日军数十门大炮轰击，1000多骑兵冲锋，但多次被打退。同时，日军出动飞机轰炸守军阵地及唐河县城，轰炸区域波及20里外的源潭镇，为部队运送粮食弹药的牛车被炸毁200多辆，民众死伤无数。
经过一日一夜苦战，日军才以巨大代价才完全占领唐河，将数量绝对劣势的国军击退。
之前，骑兵第4旅团并没有遭遇中国军队强力抵抗，此次，他们遇到最擅长防御的孙连仲第2集团军，情况就完全不同了。
当时，国军在唐河县的仅有孙连仲第30师89团一部，另外，还有唐河县当地民团。骑兵第4旅团以数倍优势兵力，连续进攻数次，均被孙连仲部击退，日军伤亡近千人之多。
最终，在13日，日军骑兵依靠10多架飞机的猛烈轰炸，这才占领唐河。
在实战中，骑兵旅团在攻城作战时，能力十分低下，高大的战马对于这种巷战和攻坚战，基本没有帮助。日军骑兵下马作战，跟步兵完全一样。
但是，骑兵的训练、装备远不如真正的步兵。相比日军步兵每日的训练，骑兵每天只有半天是徒步训练，另外半天，学的是乘马作战。
现在，既然不能在马上作战，那么马上的这些训练，包括马刀肉搏、马上射击，自然没用。
而且，骑兵第4旅团在七七事变以后，并没有经受过真正激烈战斗的考验，大部分时间，他们从事警戒，侦查，破坏，甚至还有维护治安。
更为关键的是，骑兵旅团的重武器，也远远不如步兵旅团。
因为，重炮无法有效跟上战马前进的速度，他们只能依靠战马背负的山炮和迫击炮，而且，弹药都是相当有限的。
这样一来，日军相对于国军的火力优势，也就不大了。
唐河一战，孙连仲一个团大部，居然就能死守唐河县城一天一夜，造成日军1000多人伤亡。
而且，实战中，中国军队对日军骑兵评价并不高。一个国军老兵这样说：
日军骑兵下马以后的战斗力，远远不如日本步兵。他们穿着马靴进攻，动作生硬迟钝，而且明显缺乏实战经验。
在我们机枪的扫射下，这些骑兵居然还不卧倒，而是跪着射击，结果被我们一片片的打倒。
而且，日军骑兵的机枪，火炮数量远不如日本步兵，而且日本骑兵步枪比较短，射击精度不够。
总之，日本骑兵下马以后，战斗力跟我们半斤八两，我们丝毫不畏惧他们。
孙连仲的西北军善于轻武器精确射击和大刀刺刀肉搏，唐河激战中，日军虽然依靠人数优势和空军支援，最终经过苦战获胜，但伤亡很大，更重要的是士气受到严重损伤。
由于攻打唐河伤亡很大，在唐河沦陷的两天中，日军骑兵大肆杀人放火，强奸妇女，无恶不作，房屋被烧，到处一片恐怖。
这时候，日军骑兵第4旅团旅团长小岛吉野认为：
目前，中国军队主力第2集团军已经全线逼近，自己只有几千骑兵，实力占劣势。防御尚且不稳，不能再前进，只能先停下自保。
所以，在占领唐河以后，强弩之末的骑兵旅团，实在无法继续前进，只得停下来等待步兵16师团赶上。
于此同时，攻击唐河北面南阳的日军也被江防军牟庭芳第121师拼死拦截，伤亡巨大。南阳虽然最终被日军占领，但是，这一路日军也无力继续前进。
于此同时，右翼在桐柏县城继续北上的日军第3师团第29旅团，被孙连仲第2集团军当面拦截。
两军激战，日军有限兵力无法突破最擅长防御的孙连仲部队的防御，根本无法前进。
这样一来，从桐柏到唐河之间，就出现了长达60公里的空隙，导致外围包围圈完全失败。
内一层的包围圈，虽然日军已经在5月10日在枣阳以北完成包围圈，但是，汤恩伯集团军却早在10日已经将集团军大部也成功突围出去。
汤恩伯旧照 图片来自网络
而外层包围圈又被孙连仲撕出一个大口子，汤恩伯31集团军的85军和13军一部，全力从这个口子突围出去，并且在15日到达了泌阳，完全跳出了日军的包围圈。
到12日，内层包围圈没有抓住汤恩伯集团军，日军形成的包围圈中，只有一些小鱼小虾，还相当难啃，所以完全无用。
而有中国军队大鱼的包围圈，却最终无法形成，围歼也就无从谈起，冈村宁次不得不承认：
随枣会战已经失败。
此时，冈村宁次的参谋长还认为，可以继续追击汤集团军，但冈村却不这么想。
现在，日军情况其实已经比较危急，两翼日军都深入中国军队后方150到250公里，前后到处都是国军，这是极为危险的。
虽然此时日军还有战斗力的优势，但经过长期苦战，补给不足，战斗力已经大减，而周边中国军队除了一部溃散以外，大部分仍然没有失去组织，也就是没有被击溃，随时可能发动全线反击。
如果此时日军不退兵，继续坚持作战，就很有可能重蹈台儿庄的覆辙，被国军聚众痛击，甚至歼灭。
鉴于这种情况，狡诈的冈村宁次宁可承担失败的责任和伤亡过万的代价，也要立即撤退。
12日，冈村宁次向随枣地区日军下达了总撤退令。