右翼兵团
第20军团长汤恩伯，第52军，第85军，第75军，第57军之333旅，第13师，骑兵第9师，炮兵第4团。
左翼兵团
第2集团军总司令孙连仲，第2集团军第119师，炮兵第10团2个连，战车防御3个连，重迫击炮2个连。
(5)第110师河防由第22集团军部队接替。
日军第10联队在4月2日的《战斗详报》中说：“对中国军队第27师第80旅昨日以来的战斗加以检讨，无愧于******对他们的极大信任。他们据守散兵壕，全部顽强抵抗直至最后。他们在狭窄的散兵壕内，重叠相枕，力战而死之状，虽为敌人，观其壮烈之态，亦为之感叹。战斗中曾使翻译劝其投降，但无一人应者。战至尸山血海的精神，并非独为我军所特有。无视他人，自我陶醉，为我军计，对此应有所慎戒。本日作战，我军伤亡将校以下66名，敌遗尸约250具。”
4月3日，台儿庄内日军得知其第10联队及坂本支队均已增援至台儿庄以东地区，为配合作战，加强了在庄内的攻势，由东部街区向南部及西部街区猛攻，但遭到第31师的坚强抗击，除又夺占了东南门外，没有进展。第10联队继续向第27师阵地攻击，但亦遭到顽强的抗击。经一日苦战，日军占领了黄林庄附近第26师的部分主阵地，第27师退至石拉一线继续抗击。战斗于第10联队以东的坂本支队4月3日正在火石埠一带与第75军激战中。
第2集团军的3个师全天均在日军猛攻之下，竭力防守，但无力按战区的命令转为进攻。第110师派豫东红枪会组成的武术队于当夜潜渡运河，以大刀、梭镖袭击了韩庄车站，一度攻入站内；该师第328旅潜入河北的突击队亦对邹县之敌进行袭扰。第20军团的第75军一部正与日军坂本支队激战；第52军已消灭了坂本支队的掩护分队，正向底阁、杨楼一线前进，做进攻濑谷支队左侧背的准备。
4月4日，濑谷启发现中国军队有向其翼侧及后方包围的迹象，急令第10联队主力向支队部所在地杨庙靠拢，连夜北返至距台儿庄约4公里的鱼鳞集结；留约1个中队的兵力置于黄林庄地区，与台儿庄内第63联队第2大队相呼应。日军坂本支队进攻受挫，已被第75军及第85军包围于鸾墩、大顾珊、火石埠等地。
中国统帅部得到临城、枣庄一带的日军均已调至峄县以南增援的情报，即令第3集团军前敌总司令曹福林“速向临、枣推进，限4月5日到达