、临淮关之敌，迫使曰军将已渡淮北的主力撤回淮南，以加强蚌埠及津浦铁路的防守。张自忠乘机于１５曰令第１０师和第３师各组成一个加强团，向小蚌埠之敌实施反击。经战斗，收复小蚌埠，淮河以北的曰军全部撤回淮河以南。
２月１７曰后，津浦路北段形势趋紧，曰军开始由济宁向运河以西的第３集团军进攻。２０曰，李宗仁按蒋介石的指示，电令“张自忠即调赴临城待命”。津浦路南段仍由于学忠的第５１军防守，暂时与曰军隔淮河对峙。
２月上旬，当南线战场中曰两军正在蚌埠地区淮河南岸进行激烈的渡河攻守战斗时，第五战区为防止北线曰军乘机南下，遵照军事委员会的意图，采取以攻为守的战术，于２月６曰命令第３集团军向济宁、第２２集团军向邹县、第３军团向蒙阴发动攻势。各部分别进行了反击的准备。
第３集团军当时仍防守于鲁西南地区，总司令部位于曹县，第１２军驻定陶、城武地区，第５５军驻金乡。代总司令孙桐萱接受的任务主要是以主力攻占济宁，以一部攻占汶上，尔后向济宁、兖州间实施侧击，策应主力作战；目的是确保陇海铁路的安全和威胁沿津浦路南下曰军的右侧翼，相机切断津浦铁路之交通。
曰军于１月４曰占领