?3月23日凌晨，第2集团军第31师第93旅乜子彬部的先头部队开始从台儿庄一线向峄县方向搜索前进。当93旅骑兵连搜索至峄县以南8公里处的乱沟附近时，与南下日军先头骑兵部队约300余人、坦克1辆遭遇，从而打响了台儿庄一线战斗的第一枪。
当面之敌是由日军步兵第63团第2营及野炮兵第10团第1营组成的，配属有坦克、装甲车、野炮及骑兵队，共1000余人。就当时中日军队的实力对比看，日军的这支混合部队，除了人数以外，其无论是在部队的机动性方面，还是在火力配备上，都超过了中国军队一个普通师的水平。
第93旅骑兵连百余官兵都是久经沙场的老兵，他们在队长王保坤和连长寇保贞率领下，占据有利地形，打退了敌人一次又一次的进攻。日军见久攻不下，于是调集大炮，对中国军队阵地轰击，守军全队官兵抱定与阵地共存亡的决心，争取尽量滞阻敌人，使后续部队有充分的时间作好迎敌准备。手榴弹使用殆尽，仍然顽强坚守阵地，不肯退却。最后，在敌人的轮番攻击下，阵地终于失陷，全队官兵伤亡过半，被迫后撤。
31师北上搜索分队与敌南下进攻之旅在路途中遭遇，在敌强我弱的情势下，中国军队以顽强的斗志，较小的代价，滞阻日军于台儿庄外，初步打破了日军急于南下，抵达运河一线的计划。
根据敌情，池凤城于当日晚对各部队的任务作了部署：骑兵仍活动于潘家庵附近地区，监视峄县敌人行动；第93旅以一部置于南洛、孙庄各据点，主力置于板桥；第186团仍任台儿庄之守备，速构筑防御工事；第92旅以一部进驻台儿庄北站附近，并迅速加强该地工事。
同日，第5战区李司令官得到第31师与日军遭遇，日军已进至北洛的战报后，当即给第2集团军孙连中下达命令：孙总司令即赴台儿庄指挥；驻贾汪(距台儿庄西南30公里处)之27师星夜徒步向台儿庄附近集结。
孙连中受命后，即率第2集团军司令部于24日晨4时