1938年3月中旬至4月初，李宗仁指挥中国军队在台儿庄取得大捷，挫败了日军第5师团、第10师团分进合击的战术，但是这两个师团的主力并未遭受歼灭性打击今日新开英雄合击。
日军大本营见中国军队主力云集在徐州地区，决心发起一场更大规模的攻势，一举歼灭在徐州集结的中国军队主力。
在取得台儿庄大捷后，蒋介石意图扩大战果，准备在徐州打一场大会战，为此蒋介石先后投入了近60万大军。
从4月中旬开始，日军就再度发起攻势，4月19日，坂本支队攻占向城、国崎支队攻占临沂、长濑支队攻占兰陵。
日军此时在下一步大棋，日军计划以右翼的进攻吸引国民党军主力东援英雄合击私服，然后趁徐州以西国民党军兵力空虚，日军左翼的包抄部队从鲁西南迅速南下，切断徐州以东地区国民党军主力例如中央军第20兵团、孙连仲第2集团军的退路，将其围歼在台儿庄地区。
此时中国守军的防线大致如下，东侧是刚刚赶到战场的滇军第60。
1938年4月7日，日军大本营下达了大陆第84号命令，并且在4月10日制定了具体作战方案。内容大致如下：
调第114师团、16师团、战场二大队、重炮兵第3、6联队等增援徐州以北的第二军，待集结完毕，从微山湖西侧南下，切断徐州中国守军退路；华中派遣军派部队从淮阴方向出击，牵制徐州以南方向的中国第26集团军、第21集团军等部队；日军第14师团在兰封一带渡黄河南下，切断陇海铁路。
4月19日，日军在鲁南地区的濑谷、长濑、坂本等三个支队分三路南下，直扑台儿庄前线中国守军阵地。
然而，此时的蒋介石可能是被台儿庄大捷冲昏了头脑，一心想着在徐州与日军来一场真正的决战，如果真是这样，那可就正中日军下怀。