当日，重新部署就绪的第二十军团各部对已经进入包围圈的日军坂本支队发动攻击，盘踞刘庄、爱曲、兰陵一带的日军坂本支队第二十一联队后卫部队约三个中队的兵力被二十军团迅速包围。据守刘庄的日军中队于午前被五十二军歼灭，据守爱曲、兰陵的日军则遭到八十五军正面攻击，损失惨重。入夜后，汤恩伯令五十二军接替八十五军第四师阵地，集中军团主力将据守兰陵、洪山的日军残部一举歼灭。

　　此时，日军第十师团的濑谷支队和第五师团的坂本支队已进入中国守军的包围圈。就在这转瞬即逝之际，第五战区司令长官李宗仁认为，围歼台儿庄地区日军的时机已现。第五战区急将刚刚调至碾庄、八义集一带的第七十五军及其第六师、第十三师转至岔河镇地区，令由临沂方面调来的第五十七军第一一一师的第三三三旅进至鲁坊地区，均归第二十军团军团长汤恩伯指挥，决心集中兵力将已进至台儿庄附近的日军围歼于邹、台地区。

　　由此，台儿庄阻击战就变成了台儿庄围歼战。

　　坂本支队遭到后方中国军队猛烈攻击之后，立即报告师团长板垣征四郎。板垣征四郎气愤之余，又转而质问矶谷廉介，讯问为何出现大批中央军。矶谷廉介想起了濑谷启先前的报告，又电话将濑谷启训骂一通。濑谷启被骂得人五人六，气不过，又将那俘虏拉出来打了一通——这回是濑谷启亲自打，抓着他的衣领问道：“你的，良心大大的坏的，你为何要骗我说没中央军？”俘虏委屈地说道：“我早说有中央军，你就是不信！”濑谷启松了手，拔出刀，一刀将这没节气的俘虏杀了。

　　经过一番询问和情报分析，板垣征四郎终于渐渐在地图中看明白了为何坂本支队身后会出现一支中央军。

　　汤恩伯这一乾坤大挪移令板垣征四郎大吃一惊。

　　四月二日晚八时，第五战区下达了围歼作战命令：“本战区以迅速合围歼灭敌人之目的，决于明日开始全线总攻击，保持重点于第二十军团之右翼，将敌包围于台儿庄北侧地区而歼灭之。”

　　四月三日，台儿庄内日军得知其第十联队及坂本支队均已增援至台儿庄以东地区，为配合作战，开始了孤注一掷的攻势。他们用十余门平射炮向中国守军阵地连续炮击，又辅以战机轰炸，随后，日军步兵在冲锋过程中使用催泪性瓦斯毒气，由东部街区向南部及西部街区猛攻。

　　此时，全庄三分之二被敌占有，第三十一师全师已损失十分之七，仅剩一千三百余人。为免全军覆没，师长池峰城向孙连仲请示，可否转移阵地，暂时退至运河南岸？孙连仲向李宗仁请求批准。基于汤恩伯部会于四日抵达台儿庄，李宗仁的答复是：严令死守，决不许后撤。孙连仲又亲自给李宗仁打电话，说：“报告长官，第二集团军已伤亡十分之七，敌人火力太强，攻势过猛，但是我们把敌人也消耗得差不多了。可否请长官答应暂时撤退到运河南岸，好让第二集团军留点种子，也是长官的大恩大德。”李宗仁答说：“敌我在台儿庄已血战一周，胜负之数决定于最后五分钟。援军明日中午可到，我本人也将于明晨亲来台儿庄督战。你务必守至明天拂晓，如违抗命令，当军法从事。”孙连仲向池城峰转述李长官的命令时更加直接：“士兵打完了，你就自己填上去；你填过了，我就来填进去。”随即，孙连仲进入台儿庄内亲自督战，组织敢死队。在第三十一师的坚强抗击下，日军除了又夺占了东南门外，没有进展。

　　当天拂晓，第十联队继续向黄樵松第二十七师阵地攻击发射了两千余发炮弹，阵地被夷为平地。然后，在四十余辆坦克的掩护下，日军步兵不顾一切地向台儿庄方向突击。负责彭村防御的王景山营长，赤膊上阵，砍杀日军十二人，最后中弹倒地，尸体被日军惨戮肢解。经一日苦战，日军占领了黄林庄附近第二十七师的部分主阵地，第二十七师退至石拉一线继续抗击。

　　第二集团军的三个师全天均在日军猛攻之下，竭力防守，无力按战区的命令转为进攻。

　　当天晨八时，汤恩伯命令所属各部对当面之日军发动总攻。日军坂本支队第二十一联队终于在十时许被第五十二军突破阵地，该联队残部在联队长片野定见大佐率领下向西北方败退。第二十军团在这一天的战斗中，歼灭了爱曲至兰陵之间的日军，同时肃清了向城至秋湖沿线的日军残敌。在结束这里的战斗之后，汤恩伯命令八十九师迅速向岔河镇前进，企图与第七十五军将坂本支队主力夹击歼灭。八十五军军长王仲廉亲临前线，率八十九师对鸳墩、大顾珊的日军发动进攻，另以一部迂回日军后方，配合师主力正面攻击。日军在遭到夹攻后不支后退，大顾珊为八十九师攻克，配合了七十五军方面作战。

　　当天，关麟征第五十二军于午十一时开始向北洛、泥沟方向的日军发起攻击，试图切断濑谷支队与后方的联系。

　　四月四日，台儿庄内第三十一师终于等来了黎明的曙光，却依然见不到援军的影子。在关帝庙内，池峰城看着关老爷神像，沉默许久，转身对身兼多职的代副师长王冠五说道：“此时撤，我们皆可活，可是我总觉得窝囊。难道，我们不能战至一兵一卒吗？”

　　王冠五上前一步，立正，答道：“师座，你带着兄弟们撤吧，给我一个营，或给我一连，我与敌人周旋。你们过河后，即将木桥炸了！”

　　池峰城对着其他将领问道：“我们是过河还是不过河？”

　　所有将领齐声答道：“我们听师座的。”

　　池峰城指着殿堂正上方牌匾上“忠义千秋”四个大字，说道：“此时过河，我们对不起已经战死的兄弟，对不起‘忠义千秋’四个大字。我决意，拼光了！”

　　此时局势，台儿庄是整个战局的关键，日军一旦攻占台儿庄，中国军队整个运河防线就漏了，日军将不顾一切地直扑防守薄弱的徐州；如果台儿庄能挡住日军的进攻，汤军团不久将日军压到运河上，两米多深的运河将成为日军葬身之地。

　　在撤与守之间，第三十一师官兵们选择了后者，他们将与后方唯一联系通道——南门口通往运河南岸的木桥，下令给炸了。随后，他们用羸弱的身体将防御工事简单修复一下，就等着日军的进攻。

　　上午，日军发疯似的集中三十余门重炮向庄内轰击，使用的全是燃烧弹，庄内大火熏天。下午二时，敌机四架轰炸台儿庄及西关，被台儿庄部守军击中一架，降落于三里庄附近。当夜，三十一师派吴春秋班长率队赴三里庄焚烧被击落敌机，该队由小屋子潜入机身，用汽油纵火焚烧，火光冲天，敌兵发现急忙前来扑救，当即被击毙数名，焚机班安然返回，吴春秋被擢升为排长。

　　此日，濑谷启发现中国军队有向其翼侧及后方包围的迹象，急令第十联队主力向支队部所在地杨庙靠拢，连夜北返至距台儿庄约四公里的鱼鳞集结；留约一个中队的兵力置于黄林庄地区，与台儿庄内第六十三联队第二大队相呼应。

　　这一天，日军坂本支队拼命挣扎，但在中国军队的猛烈打击下，进攻连连受挫，已被第七十五军及第八十五军包围于鸾墩、大顾珊、火石埠等地。

　　坂本顺知道师团长已经是光棍司令了，没有向他请求支援，而是向他请求指示。板垣征四郎此时满头是汗，只能答以四字：临机转移！

　　中国统帅部得到临城、枣庄一带的日军均已调至峄县以南增援的情报，即令第三集团军前敌总司令曹福林“速向临、枣推进，限四月五日到达”，企图切断日军的前后联系、合围台儿庄附近日军于峄县以南地区；同时派飞机二十七架，分两批轰炸了濑谷支队和坂本支队。第二十军团将第十三师控置于鲁坊、南桥地区，以防止临沂方面的日军增援。

　　白天过去了，仍不见汤恩伯部踪影。第二集团军总司令孙连仲下达了悲壮的手令：“死为光荣而死，生为光荣而生，希我官兵共此努力！”

　　四月五日，日军坂本支队与后方的联系已完全被第二十军团切断，弹药、粮秣均无法从临沂方面的第五师团获得，不得不从第十师团濑谷支队方面补给，已陷于困境，当晚十七时三十七分，该支队下令准备退回临沂地区，并于二十时三十分致电濑谷启，含蓄地说道：“支队为攻占沂州，奉命返回，预定明日没后开始行动，七日拂晓前在三佛楼附近集结兵力。”

　　骄傲的日本人是没有“撤退”一词的，嗅到死亡气息的坂本支队在抛弃濑谷支队时，不得不虚伪以“奉命返回”作为借口撤退。此时，濑谷支队对台儿庄的攻击亦毫无进展，留置黄要庄的第十联队的一个中队在第二十七师的猛攻下已放弃纪庄等外围村庄，退缩至黄林庄。

　　台儿庄内，第二集团军又坚持了一日，而汤恩伯部仍在二十里外。此时，看不下去的不仅是第二集团军司令孙连仲，不仅是第五战区司令长官李宗仁，就连第二十军团的老祖宗——军事委员会委员长蒋介石也看不下去了。蒋介石于十二时致电汤恩伯，怒斥道：“台儿庄附近会战，我以十师之众对师半之敌，历时旬余，未获战果，该军团各居敌侧背，态势尤为有利，攻击竟不奏效，其将何以自解?应急严督所部于六、七两日奋勉图功，歼灭此敌，毋负厚望。究竟有无把握？仰具报。”

　　汤恩伯接到电令后积极部署进攻：令第七十五军以一部巩固岔河镇东南、西南一带高地之据点，主力继续向萧汪、东庄、台儿庄攻击前进；令第八十五军(附第六六五团，欠第四师)向低石桥、燕子井、岔河山、刘家湖继续攻击前进；令第五十二军(附骑兵第四团)以有力之一部巩固洪山镇、兰陵镇、向城一带之据点，主力即刻开始经甘露寺、腰里徐，向泥沟、北洛之线攻击前进。同时急令第三十一师师长池峰城：“明日决将台儿庄之敌击溃，与贵部会合。如不成功，甘当军令。”当晚，第五十二军到达底阁、杨楼、陶沟之线，第八十五军八十九师在朱庄、黄洲之线向大顾珊之敌进攻中，第七十五军一三九师在岔河镇、西黄石山之线向萧汪之敌进攻中，第七十五军六师在戴庄、李家圩之线向辛庄之敌进攻中。

　　当天，孙连仲接到第一战区司令长官程潜的电报：“本长官奉令特来徐州督战。台儿庄之敌限自鲁起至齐日止(六日至八日)，三日内务捕捉歼灭。树立首功者奖洋十万元，否则师长以上定予重惩。”孙连仲接电报后立即“严令各部务于限期内将当面之敌肃清，免受军令制裁”。一直在运河之南担负防守任务的第一一零师也于当晚从得胜口潜渡运河北进，准备于次日进攻獐山附近之敌。

　　四月六日晨，濑谷启发现第一一零师的部队已进至泥沟、獐山以西附近，第五十二军的部队已逼近至支队部所在地杨庙东北约十四华里的张楼地，而坂本支队主力已被第五十八军及第七十五军从北、东、南三面包围于邢家楼、大顾珊地区，且又准备于今晚撤走。这样，濑谷启认为独立维持台儿庄战局困难，遂决定退却，于十五时三十分电告矶谷廉介“暂撤离台儿庄地区，部队向后方集结”，同时部署撤退，下令“支队于本日日落后以全力向北转进”，令步兵第十联队第一大队及步兵第三十九联队第一大队提前于日落时即占领白山西村及獐山，令步兵第六十三联队主力(不包括台儿庄部队)于日落时向朱庄进攻，以掩护支队主力撤退，第十联队、台儿庄内第六十三联队第二大队及顿河闸、插花沟、黄林庄的各中队均于二十时撤出第一线，向泥沟地区集结。

　　在兖州的矶谷廉介接到濑谷启的电报后，立即命令参谋长电告濑谷启，令其终止后退。但濑谷启身陷险境，深知如果今夜不能迅速脱离台儿庄地区，等明日中国军队合围后就有被全歼的危险，因而抗命不从，继续指挥支队退却。由于仓促退逃，又是在中国军队的进攻下进行的，所以许多军需物资，如粮秣、弹药、被服以及日军尸体等均来不及带走，全部放火焚烧；有些重型机械化武器也因弹尽油竭、无法开动，不得不自行破坏，遗弃于战场。

　　台儿庄内的日军与第三十一师的部队隔墙相接、邻屋而战。日军想安全撤走，但中国守军以密集火力及手榴弹封锁，相当一部分日军在撤退的最后一刻被歼灭。一些终无法突围的日士兵投火自焚，其众达百余人，其状犹如火耗子，蔚为壮观。至七日凌晨四时左右，台儿庄内的日军全被肃清。

　　当记者进入台儿庄时，看到的是满地的尸体和残垣断壁，见到的是长发长须声音嘶哑的池城峰师长。

　　目睹如此惨烈之状，有人发出如是感叹：“无半掌之壁不饮弹，无方寸之土不沃血！”

　　四月七日，日军濑谷支队主力退至官庄地区，后方掩护部队在獐山一带。坂本支队得悉濑谷支队北逃后，当夜亦在火力追击下加速撤逃。本欲向东北、经向城返回临沂，由于第二十军团主力均在东北方向，根本无力突出重围，于是改向西北方向败退，向第十师团部队靠拢。

　　李宗仁得知日军北逃的情况后，于七日十三时向各部下达了追击命令。

　　这是日军自甲午战争以来，战斗力最强的两支部队被中国军队追得仓皇而逃的唯一战列，这一战列不仅当时日本陆军不敢正视，即使陆军战史亦不敢正视，因此对整个抗战战局影响深远的台儿庄战役被日本陆军战史一笔就抹过了。

　　后来，已经是陆军大臣的板垣征四郎与就任第十一军司令官冈村宁次谈话时，板垣就警告冈村宁次：“在中国军队中，你一定要注意两人，一为汤恩伯，一为关麟征。”

　　然而，国民党军队不擅长运动战的弊病在追击中就显露无遗。

　　四月八日，濑谷支队主力集结于峄县地区，一部兵力占领獐山、白山西；坂本支队退至枣庄以南郭里集一带。第二军司令官西尾寿造令坂本支队归第十师团长指挥。矶谷廉介命令两支队在现驻地附近大力整顿兵力，搜集敌情，作好下一步进攻准备。

　　四月九日至十一日，追击的中国军队先后均已迫近峄县：左翼兵团进至峄县以南的白山西、泥沟一带，右翼兵团进至峄县以东的土山、马山一带，堵击兵团进至枣庄以北地区。此时日军濑谷、坂本两支队已集中兵力占领了白山西、獐山、九山、郭里集等各要点，一方面凭借工事进行防御，一方面以攻击行动破坏和迟滞中国军队的进攻。因而第二集团军及第二十军团虽然连日猛攻，不惟进展甚缓，且颇多损失。

　　中国统帅部对追击行动缓慢甚感焦虑，唯恐日援军不日即到。蒋介石于十二日致电李宗仁、白崇禧：

　　台庄之捷已逾五日，峄、枣、韩、临尚未攻下。踌躇审顾，焦虑至深。以乘胜之军更加主力部队追援绝溃惫之寇，不急限期歼灭，一旦敌援赶至，死灰复燃，是无异隳已成之功而自贻将来之患。万望激励将士努力进攻，一面分途堵击，务于一二日内将残寇全数歼除。庶敌兵再至，我更有以待之。

　　李宗仁、白崇禧身在前方指挥，对日军及所属各部情况知之较深：第二集团军经台儿庄苦战，人员伤亡惨重，且武器装备甚差，实无力对装备精良且又占领既设阵地的日军进行攻坚战斗；第二十军团的武器装备虽然较好，军队实力亦强，但军团长汤恩伯一向避免攻坚，而事实上在当时具体情况下也确实不宜以攻坚战斗取胜。李宗仁、白崇禧遂于十三日复电统帅部：

　　现敌改为守，凭借峄县附近山地为据点，以枣庄为犄角。我因阵线过广，处处薄弱，连日攻击，甚难成效，欲彻底消灭敌人，事实上恐难如愿。第二期抗战之方针，原在避免阵地战，以运动战消耗敌之兵力，而收“集小胜为大胜”之功。拟在包围阵线上仅配置少数监视兵，将主力分别集结于便机动之位置，一面破坏敌后方交通，一面以小部队先游击，诱致敌人于阵地外求决战，无论敌何方增援，均可应付裕如。此为职等连日在前方实地观察，认为迅宜改用之战法原则。如蒙裁可，拟即相机实施。乞示。

　　四月十五日，蒋介石致电李宗仁、白崇禧：“所拟机动攻势案甚妥，应速实施。”

　　李宗仁、白崇禧欲歼灭峄、枣之敌，但感到兵力不足。恰于此时又得到来自天津方面关于日军的情报，于是致电统帅部参谋总长何应钦及其他决策人员，希望他们协助作出增兵第五战区的决策。电文云：

　　一，津息：台儿庄胜利已激起日方反战运动，致预定由国内增加八师亟早解决华北战局之计划打消，现在向鲁南之增兵，均由各战场抽调而来。

　　二，我如能把握台儿庄胜利之果而早日解决峄县之敌，则可扩大敌之反战运动，怂动国际力量之观听。确立我胜利基础，在此一举。拟请委座集中所有力量争此一着，务盼兄等主持一切，以期早观厥成，是所盼祷。

　　可悲的是，关于天津传来的日军的情报是假的；更可悲的，中国方面对于台儿庄战役的战果和影响都无限被夸大了。

　　即使是一九五八年李宗仁回忆，他关于此战役的数据亦是笼统不清的：敌后检点战场，掩埋敌尸达数千之多。敌军总死伤当在两万人以上。坦克车被毁三十余辆，虏获大炮、机枪等战利品不计其数。矶谷师团的主力已被彻底歼灭...

　　但据日方统计，台儿庄作战，第五师团战死一千两百八十一人，负伤五千四百七十八人；第十师团战死一千零八十八人，负伤四千一百三十七人。中国方面，则付出了两万多士兵宝贵的生命。

　　在日方看来，台儿庄之战只是出击失败；但在中国看来，台儿庄之战打破了日军不可战胜的神话，中国在精神层面取得了巨大胜利。

　　急需胜利的蒋介石需要更大的胜利。接到李、白二人之电后，最高统帅部同意他们的看法，并开始向第五战区增兵。

　　因此，原本只是在津浦线以牵制日军赢得武汉布防时间的牵制战就此演变为徐州大会战。