下，全力向外扩张，当晚推进至庄南头运河北岸。孙连仲派第30师的第176团入庄增援，与第31师部队据守西半部阵地，拼死抗击，遏止了日军的扩张势头。
3月31日，日军濑谷支队仍与第2集团军部队激战于台儿庄内外，没有进展。第10师团师团长矶谷廉介又调该师驻济宁的第39联队第1大队，配属给第10联队，以加强濑谷支队的进攻能力。由于坂本支队主力转向台儿庄，临沂形势缓和，第五战区得到庞炳勋、张自忠“当面之敌已被击退”的报告后，下令将原准备调到临沂方面的第59军第139师“转移至台儿庄方面为预备队”，以稳定台儿庄方面的战局。
第20军团的先头部队于30日夜到达甘露附近，31日开始向獐山以东的日军进攻，占领了兰城店、三佛楼等地。中午前后，在向城以东担任军团侧背警戒的骑兵团与由临沂西进的日军坂本支队先头部队发生战斗。第85军的第89师前往应援，在邰家庄附近被该支队主力击退。汤恩伯急调第4师至向城、爱曲地区组织阻击。根据当时情况，汤恩伯认为有被日军东西夹击的危险，为摆脱腹背受敌的不利境地，以“避免与敌胶着，且戒冒险决战”的理由，决心“转用兵力”，把所有兵力“一律由内线转移为外线”，竟放弃对獐山东侧日军的进攻，“乘夜与敌脱离”，在第4师掩护下，撤至洪山镇以东的鲁坊、南桥地区。
4月1日，日军坂本支队与由鲁坊进至兰陵阻击的第20军团第52军在兰陵镇以北地区展开激战。当晚，坂本顺约留1个中队的步兵及1个骑兵队于向城、兰陵镇间地区，掩护其后方联络，主力向台儿庄以东的岔河镇方向前进。第五战区急令第139师至岔河镇占领阵地，归第20军团指挥，准备抗击该敌。汤恩伯率指挥所于当日进至四户。
孙连仲为歼灭台儿庄内之敌，决定由城外向日军占领的街区实施夜袭，以收出敌不意、攻其不备之效。当日16时下达了作战命令。主要内容为：令第27师挑选奋勇队250人，继以得力步兵1营跟随冲进台儿庄城内(该奋勇队如能爬进城垣、冲杀该敌，准赏洋5000元)；第30师(欠袁、吴两团)集结最优秀的兵力，在第27师开始攻城时向三里庄发动袭击；集团军炮兵队集中火力向刘家湖射击，以牵制敌人；台儿庄的第31师配合第27师部队向占领了城西北角之敌发动进攻。当日夜半前后，第27师奋勇队及第157团第2营从台儿庄东北角突入城中，攻占了东北隅及东南门，但终为敌所阻，遂占领部分街区，与敌巷战。