当天下午，关麟征派出参谋长姚国俊和第二十五师参谋长覃艺之等人到抱犊崮山区去找汤恩伯，请示作战计划和命令。躲藏在山洞里的汤恩伯告诉姚国俊等人：“日军猛攻台儿庄，看来台儿庄是守不住了，日军可能会提前冲破运河南下。一旦日军突破运河南下，东面板垣第五师团、西面矶谷第十师团就将东西夹击第二十军团，我军团将成为日军首要攻击的目标。我所最担心的正是这个问题。”

　　姚国俊问道：“既如此，何不此时出击，或可保运河防线？”

　　汤恩伯沉郁地说道：“我认真观察，敌似有引我至台儿庄运河一线之目的，故只以小部攻击台儿庄，大军于枣庄、临沂不动。若我此时出击，敌由东西击我后背，当如何？故，我决意按兵不动。”

　　汤恩伯因此令五十二军各部撤至东北面的山地隐蔽，仅命二十五师一五零团高鹏团长指挥两个连留郭里集牵制日军。

　　因两日来伤亡过多，而增援的仅两个中队，仍难完成攻占台儿庄的任务，台儿庄派遣队队长又向濑谷启发出第二次请援电报。濑谷启在收到此电不久，又收到师团长矶谷廉介令其“采取果敢之攻势”的电令，当即决定由第六十三联队福荣真平大佐率仅有的第三大队赶赴台儿庄指挥攻坚。

　　这样，攻击台儿庄运河一线的日军就增加到二个半大队，近三千人。

　　傍晚，台儿庄的东面被日军占领。中国军队拒守西面，与日军形成巷战对峙。入夜，一八五团四个营夜袭东面日军，双方不顾生死，激战竟夜。

　　三月二十七日，台儿庄派遣队得知第六十三联队已南下增援后，不俟援兵到达，即向台儿庄发起猛烈的攻击。日军炮轰台儿庄围墙，北城墙被炸塌，小北门亦被毁，守卫小北门的一八一团三营官兵牺牲殆尽，三百多日军突入城内。第三十一师师长池峰城下令工兵营、骑兵连增援寨内，又命令一八六、一八二团各抽一个营紧急增援寨内。双方展开激烈的巷战，终将突入的日军压迫于城内的大庙附近。

　　为牵制日军的攻击，一八一团（欠三营）和一八五团二营奉命迂回到日军侧背，向刘家湖、三里庄和墩上村发起攻击，先后攻占墩上村、刘家湖，在日军反击下，中国军队撤退时伤亡惨重。

　　下午一时许，日军调来十一辆坦克，距西北寨墙两百米处向寨内开炮轰击。

　　恰好德国进口的重炮于昨夜运抵，还附有加农炮炮筒，射程达到二十公里。此重炮中国仅进口四门，奉副参谋长官白崇禧命令，两门重炮运抵台儿庄使用。中国炮兵连瞄准日军坦克，连连击中六辆坦克，另五辆坦克仓皇逃跑。

　　经过四天的激战，第三十一师伤亡达两千八百余人。为利于随后的战斗，池峰城将全师缩编为三个团七个战斗营。这时，第二集团军的第二十七师已部署于台儿庄以东的黄林庄一带，第三十师及独立四十四旅已部署于台儿庄以西的顿庄闸、万里闸一带，不断与第三十一师协同，向刘家湖、三里庄等地实施反击。

　　鏖战五日，第二集团军始终难以歼灭台儿庄一个半大队之敌，李宗仁极为恼怒地致电第二集团军总司令孙连仲：“查台儿庄为徐州前方要地，又为汤军团后方联络要道，关系重要。据报该处附近敌人约一混成联队，我军兵力数倍于敌，早当解决，乃经几日战斗，台儿庄围子反被敌冲入一部，殊深诧异。着贵司令负责严督所部，限于二十九日前将该敌肃清，勿得延缓致误戎机为要。”李宗仁又致电第二十军团军团长汤恩伯：“该军团放弃攻击峄县、枣庄之计划，速以一部监视当面之敌，以主力向南转进，先歼灭台儿庄之敌。”

　　此时，孙连仲曾因汤恩伯、关麟徵等曾有过台儿庄一旦受到攻击，“一日内定可回援”及“坚持三日即算完成任务”等的许诺，因而直接向汤恩伯发出了求援电：连日受敌猛攻，第三十一师伤亡惨重，盼以全力攻击敌之侧背，支援台儿庄战斗。

　　接到这些电报后，汤恩伯于晚上九点钟电令关麟征、王仲廉率部夹击台儿庄之敌。当电报发出后，汤恩伯犹豫了，嘴里喃喃说道：“日军主力还在峄县徘徊不前，此时出击，时机对乎？”经过一番权衡之后，汤恩伯修改命令，命令第八十五军全部留在山区，命令第五十二军派出三个团南下策应台儿庄守军，攻击日军。

　　汤恩伯的这一举动，让第五十二军军长关麟征觉得反感。关麟征认为汤恩伯一再将其嫡系八十五军调在后方休息，他的第五十二军却总是冲锋在前，这种亲疏有别的做法一次又一次伤透了五十二军士兵的心，于是关麟征拒绝执行汤恩伯的命令，原本要派出去的三个团，也没有了下文。

　　台儿庄派遣队终于等来了援兵，下午十七时三十分，联队长福荣真平率第六十三联队直属队及第三大队到达刘家湖地区。

　　当晚，第五战区游击总指挥李明扬率领的游击队攻入临城，歼灭城内之敌，还焚烧了日军储备的大量军用物资。大火烧了一天一夜，迫使日军抽调兵力从南向北增援临城，但增援日军赶到时，游击队已经跑得无影无踪了。

　　三月二十八日，福荣真平的第六十三联队集中兵力，在一个野炮大队、两个野战重炮大队、一个一百五十毫米榴弹炮小队以及三十余辆战车掩护下，与昨日突入台儿庄中的第二大队协同，对台儿庄发动了第三次猛攻。第二集团军除以第三十一师据守台儿庄阵地顽强抗击外，还令第二十七师、第三十师及独立第四十四旅从东、西向敌人侧翼及后方进行反击。

　　就在日军设好大炮阵地，对台儿庄西北一角猛轰之时，天空突然传来了飞机轰鸣声。日军以为是师团派来的飞机，更是让步兵趁机对西北角发起攻击。

　　不料，飞来的九架中国战斗机低空向日军阵地猛烈扫射。

　　这一意外结果，大大激励了中国守军的战斗意志。第三十一师将所有能够战斗的勤杂人员全部组织起来投入战斗。双方展开激烈的肉搏拉锯战，隔墙相击，逐屋争夺，阵地形成犬牙交错状态，战斗持续到深夜。

　　晚十时，李宗仁再次致电按兵不动的汤恩伯：“台儿庄方面孙集团陷于胶着状态，敌我均在困难中，贵军应为有力之援助迅速南下夹击之。”看完电报稿，李宗仁提笔在电稿中增加一句，“如再不听军令，致误戎机，当照韩复榘的前例严办。”

　　生气的人不止李宗仁，濑谷启也同样生气。

　　原来，自二十六日始，濑谷启就命鬼赤柴带着第十联队步兵第一第二大队以及调来的六十三联队步兵第一大队扑向郭里集东北面的山区，整整寻找了三天三夜，始终不见中央军的踪影。

　　于是，濑谷启又将那俘虏拉来暴揍一顿，打得亲娘都不认得他了。

　　“真的，我是真的没骗你们！”

　　此时三天又三天期限已到，第三十一师守住了台儿庄。然而当天，蒋介石却以最严厉的口气致电第五战区，林蔚将此电转第二集团军：

　　台儿庄屏障徐海，关系第二期作战至巨，故以第二集团军全力保守，即存一兵一卒，亦须本牺牲精神，努力死拼，如果失守，不特全体官兵应加重罚，即李长官、白副总长、林次长亦有处分。

　　师长池峰城看了电报后，打电话给庄内指挥作战的师附王冠五。王冠五听完后，说道：“军人舍生忘死，没有什么好说的。今晚我组织敢死队夺回失地！”池峰城说道：“组织可以，但你不可亲自带队。现在我们最缺的就是干部。”

　　日军百余人于二十七日晚窜入城西北角，占领全城制高点——文昌阁。失去西北角，就失去了对战局的控制。台儿庄处于极度危险中。为收复文昌阁，王冠五派遣特务连七十二壮士组成突击队，以黄花岗七十二烈士的英勇事迹，激励壮士奋勇杀敌。在我军炮火掩护下，深夜十一时，突击队攻克文昌阁，营长王祖献等十四人牺牲。

　　三月二十九日凌晨，第三十一师投入两个团的兵力，对城隍庙和西北角同时发起攻击。日军被压迫至庙内及西北各碉楼顽抗。

　　早晨，收到林蔚转电后，孙连仲召集军长和师长开会，其间特别嘱咐第三十一师：不要指望增援，必须坚持下去。池峰城答道：“台儿庄是吾人光荣所在，亦为吾人之坟墓。”对于攻克文昌阁，孙连仲奖励守城官兵一万元，并让王冠五代理九十一旅旅长。

　　正是由于台儿庄久攻不下，日军第二军司令官西尾寿造令第五师团的坂本支队暂时中止进攻临沂，急向台儿庄方面增援；同时令第十师团濑谷支队主力增加到台儿庄前线。

　　濑谷启收到此命令后，疑虑重重，他命人厚待那位俘虏：给他洗温泉，好酒好肉招待着，还令一位日本籍慰安妇服侍他，希望从他嘴里套出真话。

　　这个俘虏说辞没有变化，“有，真有！”

　　濑谷启将他的疑虑告诉师团长矶谷廉介，遭到矶谷一顿臭骂：“世间任何军队在我第十师团面前都是挡路的蚂蚁。濑谷君，难道你怕被蚂蚁咬？哈哈哈...”

　　矶谷廉介的讥笑，令濑谷启恼怒不已，将那俘虏满嘴牙都拔了。

　　“支那猪，敢骗我！”

　　“没骗，我真没骗！”

　　濑谷启拔出军刀，正要砍下时，这位俘虏终于改口了，满嘴漏风地说道：“骗了，我骗了，没有中央军，没有！”

　　濑谷启满意一笑，将刀插入刀鞘。

　　这一天，台儿庄守军惊奇地发现城外日军一夜之间多了许多。在一阵炮火之后，日军发动集团冲击，一股日军突入庄内西北角，中国守军伤亡殆尽后，日军蜂拥登城夺取了西门。孙连仲急调一个团增援，增援部队几次反击均不奏效，日军切断了台儿庄内外中国守军的联系。

　　晚八时，李宗仁再再次致电汤恩伯，下达命令：“甲、王军（王仲廉第八十五军）明三十日应对峄县之敌佯攻，牵制该敌之南下，但应保持由东向西之原方向。乙、关军（关麟征第五十二军）明三十日应速向泥沟、北洛前进，到达该地后以一部向南洛，协助孙集团军解决台儿庄附近之敌，以主力极力破坏铁路、公路截断峄县与台儿庄之联络，并与王军协同阻止峄县南下之敌。但王军应保持由东向西之原方向。丙、汤军团长应速向孙总司令密取联络。”接到命令后，汤恩伯开始准备行装。

　　三月三十日晨始，第三十一师以迫击炮轰击日军碉楼，日军纷纷窜出，两军进行激烈的巷战，战至黑夜。

　　晚二十一时左右，日军濑谷启率其第十联队及战车部队从峄县南下，其先头部队到达台儿庄以西十二华里之范口村，主力集结于獐山东侧各村中。

　　第五战区发现濑谷支队已经南下，而孙连仲报称与第二十军团尚未取得联络，李宗仁致电严令汤恩伯：敌主力似南下，着贵军团长以一部监视峄县，亲率主力前进，协同孙军肃清台儿庄方面之敌，限三十一日拂晓前到达，勿得延误为要。

　　台儿庄内日军得知濑谷支队主力南援的情况后，在航空兵及庄外日军的大力支援下，全力向外扩张，当晚推进至庄南头运河北岸。孙连仲派第三十师的第一七六团入庄增援，与第三十一师部队据守西半部阵地，拼死抗击，遏止了日军的扩张势头。

　　为缓解台儿庄守军承受的巨大压力，外围中国军队每晚都对日军据点发起攻击，让敌不得睡眠，以消耗其体力。

　　日第二军司令官西尾寿造鉴于台儿庄方面战况吃紧，而临沂又久攻不下，遂令第五师团坂本支队停止攻击临沂，以主力驰援台儿庄。第五师团长板垣征四郎即令该支队以一部兵力收缩汤头固守，其余四个步兵大队、两个炮兵大队，近四千人，由坂本顺支队长率领，绕过临沂，星夜增援台儿庄，于三月三十一日下午到达兰陵镇。

　　汤恩伯的第二十军团的先头部队于三十日夜到达甘露附近，三十一日开始向獐山以东的日军进攻，占领了兰城店、三佛楼等地。中午前后，在向城以东担任军团侧背警戒的骑兵团与由临沂西进的日军坂本支队先头部队发生战斗。骑兵团团长李之山立即向汤恩伯报告：“临沂方向向台儿庄方向开来日军两千余人，在飞机掩护下向向城进犯，本团无力反击，请注意侧翼安全。”

　　坂本支队的突然南下使得汤恩伯军团顿时处于坂本支队和濑谷支队前后夹击之中。这是汤恩伯一直以来最担心的。为摆脱腹背受敌的不利境地，以“避免与敌胶着，且戒冒险决战”为由，汤恩伯决定暂时放弃全军南下攻击濑谷支队的作战计划，变为抽出部队全力攻击增援而来的坂本支队。

　　但如何攻击坂本支队？迎面而上，还是构筑阵地阻击？

　　汤恩伯与关麟征商量的结果是，给日军来个乾坤大挪移。

　　三十一日十五时，汤恩伯发布命令：“一、第五十二军除留一部于台儿庄附近监视外，以主力依洪山镇为轴，外翼经该镇东北转向向城、爱曲、秋湖席卷，将日军卷入我包围线内。二、第八十五军由青山附近，分数纵队，强行向南桥、鲁坊一带之敌扫荡，并掩护第五十二军之侧背，排除台儿庄、峄县两面敌之尾追，并截留爱曲之敌，以阻其前进。”

　　汤恩伯这一策略总结起来就一句话——乾坤大挪移，将原本在坂本支队前方的第五十二军以洪山镇为轴，旋转一百五十度，一下绕到坂本支队的东北面。

　　关部的这一机动从内线跳到了外线，从而将原本从背后而来的坂本支队一下就卷进了第二十军团的包围圈内。

　　随着濑谷支队、坂本支队一齐扑向台儿庄，台儿庄乌云压城。台儿庄守军眼见援军已至，不料转一个大弯又离去了。

　　三十一日清晨，日军炮火密集猛击台儿庄，欲将其内房屋草木毁为烬灭。上午九时，日军大批涌入庄内，一八六团全团壮烈牺牲，一八五团奉命上前接替。日战机十一架狂炸西关，北站渐成焦土。

　　在台儿庄外围，黄樵松的第二十七师在刘家湖附近反复与日军厮杀，那些配属给他们的战车防御炮也全都投入了战斗。激战至正午十二时，敌复以步骑炮联合部队约三四百名，战车八辆，围攻郭金荣第一五九团守备之岔路口阵地。中国守军沉着抵抗，与敌死拼，毙敌甚重，敌仍猛进不退，遂发生肉搏战，杀喊之声撼动天地。时我战车防御炮将敌战车击毁三辆，突受敌重炮还击，我战车防御炮两门被击毁。此战，我伤亡官兵三百余名。

　　战至傍晚，台儿庄北门寨墙已坍塌成一片平地，无法封堵的巨大缺口使城外的日军蜂拥而入。进入台儿庄的日军沿着每一条街道与中国守军肉搏。战至午夜，枪声激烈，由于日军使用火焰喷射器，到处引起大火，烈火冲天。

　　四月一日，日军坂本支队与由鲁坊进至兰陵阻击的第五十二军在兰陵镇以北地区展开激战。当晚，坂本留一个中队的步兵及一个骑兵队于向城、兰陵镇间地区，掩护其后方联络，主力向台儿庄以东的岔河镇方向前进。第五战区急令第一三九师至岔河镇占领阵地，归第二十军团指挥，准备抗击该敌。

　　这一天白天，台儿庄内无战事，双方都已精疲力竭。

　　孙连仲为歼灭台儿庄内之敌，决定由城外向日军占领的街区实施夜袭，以收出敌不意、攻其不备之效。当日十六时下达了作战命令：令第二十七师挑选奋勇队二百五十人，继以得力步兵一营跟随冲进台儿庄城内；第三十师集结最优秀的兵力，在第二十七师开始攻城时向三里庄发动袭击；集团军炮兵队集中火力向刘家湖射击，以牵制敌人；台儿庄的第三十一师配合第二十七师部队向占领了城西北角之敌发动进攻。

　　当跟着孙连仲的军需官将大洋分给敢死队队员时，队员们纷纷将大洋扔在地上，说道：“我们以死相拼，为的是报效祖国，不是为了这几块大洋。”

　　夜半前后，第二十七师奋勇队及第一五七团第二营从台儿庄东北角突入城中，日军猝不及防，仓促应战。战至凌晨四时，占据着台儿庄东北角寨墙的日军被全部歼灭。敢死队员继续向东门和西北角方向进击，日军以民房和碉堡为屏障阻击。与此同时，第三十师第一七五团亦以第三营向占领西北角的日军发起进攻，经激烈肉搏后，最终将敌人击退，并歼灭其一部。天亮后，台儿庄的东门被中国军队打开，南门也被收复，第三十一师和第二十七师终于取得了联络。

　　四月二日，由于第二十军团放弃对獐山以东日军的进攻，鬼赤柴第十联队乘机南下，进至台儿庄以东地区，与第二十七师相遇。师长黄樵松告诉他的官兵，决不能让增援的日军冲进台儿庄。日军三百余名步兵在十辆坦克的引导下，于十时三十分开始向第二十七师彭村、上村、陶沟桥等处阵地进攻。激战至晚十九时，第二十七师后撤至连庄、丁家窑、火石埠之线继续抗击。此战，日军战报记载：

　　凭借散兵壕，全部守兵顽强抵抗到最后。宜哉，此敌于此狭隘的散兵壕内，重叠相枕，力战而死之状，虽为敌人，睹其壮烈亦将为之感叹。曾使翻译劝其投降，应者绝无。尸山血河，非独日军所特有。不识他人，徒自安于自我陶醉，为国军计，更应以此为慎戒。

　　日军坂本支队当日亦进至陈瓦房、耿庄地区，与第十联队取得联系。就当坂本顺向师团长板垣征四郎报告进展顺利之时，汤军团已经悄然将之合围。