台儿庄派遣队的2个中队于黄昏前后到达台儿庄，立即遭到第31师的反击。“台儿庄派遣队”队长因两日来伤亡过多，而增援的仅2个中队，仍难完成攻占台儿庄的任务，26日凌晨又向濑谷启发出第二次请援电报：“(1)敌兵力为3个师(城内1、城东1、城西及包围我的1)，城内及火车站附近有列车炮。(2)派遣队等待增援，27日开始攻击。(3)战死20，战伤112，突入城内生死不明者15。”濑谷启在收到此电不久，又收到第10师团师团长矶谷廉介令其“采取果敢之攻势”的电令，当即决定由第63联队福荣真平大佐率仅有的第3大队赶赴台儿庄指挥攻坚。
3月27日，“台儿庄派遣队”得知第63联队已南下增援后，不俟援兵到达，即向台儿庄发起第二次猛烈的攻击，占领了城墙的东北角，一部突入城内。第31师的第186团立即组织反击，双方展开激烈的巷战，终将突入的日军压迫于城内的大庙附近。但第31师损失也大，4天的激战，伤亡约2800人。为利于以后的战斗，池峰城将全师缩编为3个团7个战斗营。这时，第2集团军的第27师已部署于台儿庄以东的黄林庄一带，第30师及独立44旅已部署于台儿庄以西的顿庄闸、万里闸一带，不断与第31师协同，向刘家湖、三里庄等地实施反击。当晚17时30分，福荣真平率第63联队直属队及第3大队到达刘家湖地区。台儿庄形势更趋严峻。
由于台儿庄战情紧急，而第20军团主力仍在枣庄东北山区，并未向枣、峄日军实施与其实力相适应的进攻。
因此第二战区一面向第2集团军总司令孙连仲下达限期歼敌的命令，一面向第20军团汤恩伯下达转用兵力于台儿庄的命令。给孙连仲的电令是：“查台儿庄为徐州前方要地，又为汤军团后方联络要道，关系重要。据报该处附近敌人约一混成联队，我军兵力数倍于敌，早当解决，乃经几日战斗，台儿庄围子反被敌冲入一部，殊深诧异。着贵司令负责严督所部，限于29日前将该敌肃清，勿得延缓致误戎机为要。”给汤恩伯的电令是：“该军团放弃攻击峄县、枣庄之计划，速以一部监视当面之敌，以主力向南转进，先歼灭台儿庄之敌。”此时，孙连仲因汤恩伯、关麟徵等曾有过台儿庄一旦受到攻击，“一日内定可回援”及“坚持三日即算完成任务”等的许诺，因而直接向汤恩伯发出了求援电。大意为：连日受敌猛攻，第31师伤亡惨重，盼以全力攻击敌之侧背，支援台儿庄战斗。汤恩伯当即令：
“第52军应于本晚星夜由