台儿庄位于山东省南部，在临城至赵墩的铁路支线上。它北接津浦路，南连陇海路，西南距徐州约50公里。台潍公路以此为起点，大运河擦庄南而过，水陆交通两便，战略地位十分重要。
台儿庄名为庄，实际上是一个有着城墙、较为繁华的小市镇。城内建筑，均系砖木结构，房屋林立，街道纵横。砖砌的城垣虽不高，却很完整，共开有东、南、西、北、东南、西北6个城门。城东西长约2至5公里，南北宽约1至5公里，城东较城西为宽，呈一直角三角形。
庄外，北面是一片开阔的平地，附近有大小碉楼数十座。西面是铁路，东面散布着一些村庄。
虽然，就近的战火在蔓延，有时甚至十分猛烈，此时的台儿庄，还没有陷入战火。不过，它已经在李宗仁的思考之中了。
日军的濑谷支队主力在临城掉头东向，伸展于枣庄、峄县附近。如此一来，日军虽没有改变该部冒进南下、孤军深入的情况，我军没有失去集中兵力从侧翼歼敌的战机，但是，它的这一掉头，对李宗仁作战计划的实施造成严重威胁。
“来，你们看。”李宗仁指着地图对参谋们说， “如果这股日军东上与坂本支队配合，夹击临沂一线我张自忠、庞炳勋，则张、庞军将处于十分不利的险境；若两部日军会合，其南下之势会更加凌厉。再者，日军此举已经是避难就易，选择了枣庄、台儿庄、赵墩一线为进攻方向。”
“这岂不是延长了我军的防线?”
“对，防线的延长，就是防守上的劣势了。”
在参谋们七嘴八舌一番后，李宗仁又说：“能否顺利完成我之鲁南防守作战计划，挫败濑谷支队的攻势，有三个关键问题。其一，张自忠、庞炳勋能否守住临沂一线，挡住坂本支队的南下；其二，我军能否在台儿庄、运河一线阻止住日军的攻势；其三，我侧翼部队能否以有力的攻势牵制并不失时机地歼灭敌人。其中，第二个问题又是关键的关键。因为，如果日军击破我台儿庄、运河防线，逼迫徐州，则我在临沂一线防守的张、庞两军以及准备侧击敌军而进入峄县以东地区的汤恩伯军团，都将处于日军的两面夹击之中，我整个鲁南防守作战计划就将破产。”
日军可走的每一着棋，李宗仁都看到了，而且对其意图，理解得很透彻。所以，当他把整个态势端出来后，几乎所有听他分析的人都咋舌称是。那么，李宗仁又是如何摆布自己的棋子，与日军对阵呢?
对于第一个问题，李宗仁已从张、庞在临沂前一段战斗的表现中得出，肯定的结论。至于第三个问题，他准备把52军插入津浦路东侧，使20军团得以集中使用兵力，就这个军团的战斗力来说，完成侧击任务也非难事。就是最关键的第二个问题，台儿庄、运河一线的阻击，摆哪个子儿?
调第二集团军孙连仲部！
尽管这是一支杂牌部队，前身都是冯玉祥西北军之一部，但李宗仁知道，抗战以来，娘子关战役中，孙连仲扼守正面阵地使飞机大炮下的日军不得越雷池一步，杀出了第二集团军的威风。
李宗仁对西北军队的素质及作战能力还是略知根底的，虽然武器装备低劣，但在国民党军队中战斗力及战斗作风均届上乘。
李宗仁深信第2集团军不会使他的鲁南歼敌计划落空，他随即做如下部署：
一、令孙连仲即刻将第2集团军调往台儿庄运河一线布防；
二、令第52军将其担任的运河以南防务交给第110师接替，该军迅速深入枣台支路以东地段，与已在该地的85军会合，随时保持牵制、侧击敌军的势态。
孙连仲在许昌接到李宗仁的命令后，即令第31师及独立第44 旅为集团军先头部队，立即驰往台儿庄及其附近的地区，先行构筑工事，掩护其他部队陆续集中。他亲率第27师并第30师随后跟进。
3月21日，徐州。第五战区司令部门前，急匆匆走过来几个戎装军人。
为首的一位，个头不高，但身材匀称，浓眉大眼，四方脸型，黝黑的脸膛上透发一股粗犷豪气。他身穿布衣，脚蹬布鞋，给人一种醇厚朴实之感。这人便是第2集团军第31师师长池峰城。池峰城，三十五六岁年纪，而行伍生涯已近20年。他小时没上过学，没什么文化，但为人忠厚，极能吃苦耐劳。他一直跟随孙连仲，由于战斗作风顽强，孙连仲一直把他作为主要依靠力量使用。
池峰城先行来到战区司令部受命。
李宗仁亲自接见池峰城，这是由于池部所在战线的重要，也是李宗仁借此对将士鼓鼓气。
李宗仁和池峰城是初次见面，待池峰城行礼报告完毕后，李宗仁握住他的手，轻轻道了声：
“池师长辛苦了！”
在李宗仁的注视目光中，池峰城感到一种温存。随即，听从李宗仁的手势，在沙发上坐了下来。
“池师长，此次战役，贵部的责任重大啊。”李宗仁说， “从济南南进之敌矶谷师团，陷滕县，克临城，下峰县，势甚猖獗，大有进窥徐州之图。军委会为增强战区阻击敌军之力量，调第2集团军归我战区指挥，还望池师长鼎力为之。”
听罢此语，池峰城已领悟到战局的紧迫和任务的艰巨，对矶谷师团之善战，过去也略有所闻。池峰城说：“服从命令，勇敢杀敌是军人的天职。守卫疆土，为国牺牲是我全师将士的决心。此次奉调，两者兼之。我全师官兵决心在李司令长官的指挥下，杀敌立功，报效祖国。”
池峰城的这番话，既是下级对上级指挥官期望的回答，同时也确实代表了31师的心愿。自九一八事变后，31师在吉鸿昌的率领下，不愿在内战中厮杀，无奈最后当局不顾外侮，坚持内战，并将力主抗日的吉鸿昌逼走，使全师将士报国无门。七七事变后，虽与侵略者几试身手，但都不怎么漂亮，用他们的话来说，仗还打得不够“恶”，战果还不甚令人满意。现在有了杀敌报国的好时机，自然要使全力让侵略者尝尝厉害，尝尝大刀的滋味。
李宗仁看到池峰城回话时那诚挚、坚定、果敢的神态，心中不免暗暗惊喜：好一个西北军将领，真是将门出虎子。我要的就是这说一不二，敢打敢拼的将才。他随口赞道：
“西北军的大刀片使日寇丧胆，我是早有所闻呵。荩忱(张自忠)这次在临沂打出了威风，使我对完成歼敌计划增加了一份信心。今见将军，可说又添我一分信心呵。”
随后，李宗仁向池峰城布置了战斗任务：31师到台儿庄后，先接替第110师韩庄至台儿庄沿运河防线，然后可向峄县之敌出击，并坚决在台儿庄堵住敌人。迨第20军团进击敌侧背，全力压迫敌人于运河北岸、微山湖畔一带时，聚而歼之。李宗仁还交代池峰城，为了协同方便，31师暂归第20军团长指挥，待第2集团军司令到来后，部队再归还建制。
李宗仁再次握住池峰城的手说道：
“我围歼冒进之敌的计划能否实现，现在关键就在于台儿庄一线能否守住。望你全师将士勇敢杀敌，立功报国，以告慰全国父老兄弟。由于时间紧迫，我不能与你部官兵一见面，请代致慰劳之意，待会战终了，再与贵师官兵，共同祝贺。”
一股暖流再次涌上池峰城心头，他两腿一并，语气坚定地答道：
“请长官放心，峰城决不辜负厚望，坚决完成任务！”
池峰城受命后，马不停蹄，率第2 集团军先头部队于当日抵达台儿庄，胜利地拉开了台儿庄大捷的序幕。
3月23日，日军第10 师团1部1000 余人开始在重炮、坦克掩护下向台儿庄发起进攻。敌已先池峰城一步，攻至台儿庄附近。池峰城从战地回到师部，决定所部坚决守住南洛，尽量阻敌于南洛以北，决不能将战线收缩到台儿庄内一点，以保证机动作战的回旋余地，避免给日军造成集中力量，击一点而破的战机。同时，令两个团在南洛一线准备长期防守，截断道路，拓宽防御工事，防止敌坦克车接近。24日晨，孙连仲赶到台儿庄运河南岸的韩家寺，27师也正急速向台儿庄附近集结，受命向台儿庄东北前进，以巩固右翼。
同日上午，抵达北洛的日军继续南进，向我军发动进攻。日军飞机飞临台儿庄上空，对台儿庄附近堡垒施行轰炸。顷刻间，台儿庄成了一片火海。敌机去后，日军的野炮、山炮又对台儿庄轰起来，炮弹落处，火光冲天，房屋坍塌，城垣破裂，台儿庄及附近又被硝烟笼罩。随后，日军的步兵开始冲击。
我守卫在村寨、壕沟内的将士，对来犯之敌予以痛击，一时间，枪声爆炸声又响成一片。当日军在台儿庄向我发动进攻后，防守南洛的乜子彬旅奉命向进攻台儿庄之敌的侧背攻击，从而减轻了台儿庄我守军的压力。
这一天，我军被日军的炮火打得太惨了，带来了很大的威胁，孙连仲不得不向李宗仁求援：“日军炮火太狂了，要压下去才行！ 长官是否调炮兵来?！”
李宗仁当即命第五战区直辖炮兵第7团驰援台儿庄。25 日晨，我军炮火开始向日军怒吼了。
26日，经过准备的日军以3000 余人的阵势再次向台儿庄发动进攻。在日飞机大炮猛烈轰击下，台儿庄北门附近一段城墙被炸毁，日军涌入城内，我守军与突入之敌展开肉搏。
为了击溃日军的攻势，孙连仲急令台儿庄东侧的第27师与南洛的第31师对日军后方刘家湖进行夹击。
部队接近日军阵地，发起进攻。由于这一带地势平坦，不宜隐蔽，增加了进攻的难度。此时，日军坦克竟向我军发起反冲锋，几百名日军反扑过来。
就在坦克逼近的那刻，只见一个中国士兵跃出战壕，隐蔽地从一个弹坑跳向另一个弹坑，一步步向日军坦克靠近。他身上披挂着十几颗手榴弹，待接近日军坦克时，他猛地拉响身上的手榴弹，随着“轰”的一声巨响，坦克不动了，燃起熊熊火焰。
“以我们的肉弹和鲜血，战胜日寇的铁弹和坦克。”
中国守军喊出了如此悲壮的口号！
在刘家湖西面，我183团1 营向日军阵地进攻。营长高鸿立膀粗腰圆，性子刚烈，此时他杀得性起，猛地甩掉头上的帽子，脱去上衣，右手握起明晃晃的大刀，双目圆瞪：
“弟兄们怕不怕死?”
“不怕死！”
“不怕死的脱光膀子，跟我冲上去！”
刹那间，几百名士兵袒露着上身，腰间系着手榴弹，手持大刀，高声呐喊，潮水般向敌人冲去。
终于，敌人被击败了，狼狈地向北退却。
至此，台儿庄前的战斗已持续了4天。
在台儿庄附近严密注视战况的李宗仁，见我军连日激战，伤亡惨重，出现渐渐不支的境况，乃当机立断，改变部署，认为是决定胜负的最后关头了，一面命孙连仲率部死守，一面命汤恩伯第20军团放弃峄县、枣庄的攻击计划，以一部监视当面之敌，主力向南转进先歼灭台儿庄之敌。
27日上午，日军步兵在炮火硝烟中突破中国守军防线，从北城墙的废墟上攻入台儿庄城内。日军入城后，即沿北街直扑大庙，抢占制高点。战至中午，我守庙将士寡不敌众，全部壮烈牺牲。自此，我守卫台儿庄的将士从城外转入城内，双方在城内反复激烈地厮杀，从这一天开始。
台儿庄方面的战况，每天都在牵动着国民政府军事委员会。日军决心攻克台儿庄的意志和进攻状况，不仅冲击着李宗仁，也给军委会带来了担忧。
当战事激烈之时，蒋介石偕副总参谋长白崇禧亲到台儿庄，召见将士，指示事宜，鼓励杀敌。蒋介石说：“日军有不可战胜之神话，望我军士奋威，打破这个神话！ 且见今日事态，只要我军有最后5分钟之坚，则此神话必破无疑！”
日军此时后退无路，便只有一拼到底。4月1日集中了3000人攻打兰陵一带，以求突破外线。汤恩伯指挥20军团的两个军向敌发动猛攻，对日军占领的村子，全部用机枪封住村口，再放大火，以“堵洞灭鼠”之法，将刘庄、马庄、柿林园等村里的日军杀个干净。到4月2日，这一带的日军见已成败势，在进攻受挫，后退无路，陷于中国军队四面包围中，他们纷纷举枪打死马匹，作垂死之战，不时有人以利刃切腹自杀。
不知为什么，汤恩伯在外围杀得性起，偏偏忘了最大的猎物——台儿庄内的矶谷师团主力。
台儿庄内，29 日战事最激烈。池峰城师反攻被夺去的失地，一支72人的突击队，在迫击炮掩护下，攻击文昌阁，将盘踞其内的日军尽数聚歼。黄樵松师对台儿庄北面之日军亦反击，攻克了邵庄、园上、孟庄，击毁敌坦克两辆。陈金照师向南洛、三里庄挺进，截断日军后路。日军在援军到达后，大举反攻，又夺取台儿庄东半部，在城内与池师相持。30日上午，第31师由副师长康法如率军向西北角日军展开肉搏达数小时，31师阵亡300余人，敌仍据东南半部、西北角顽抗。
4月1日，黄樵松师800余人攀登寨墙突入东北角，袭击日军，并占领东北隅及东门以北几座碉楼。2日夜，池师250人组成奋勇队突入西北角夜袭，夺回西北角。
双方在台儿庄内几日来激烈争夺，由于日军坂本支队加入战斗，我第2集团军伤亡重达7000余人，因而陷入苦战。小小的台儿庄里里外外，双方伤亡逾万人，已是尸骨成山，血流成河。随便抓起脚下的一把焦土，就能抓出几块弹片甚至碎肉。