就在津浦线南段阻击日军北进时，中国军队也在鲁西南阻击日军南下。

　　一月十一日，韩复榘被诱捕当晚，蒋介石召见了于学忠、孙桐萱二人。有感于韩复榘对自己的栽培之情，孙桐萱当即向蒋介石请求：“韩司令北伐时期作战有功，为国家出过很大的力，不过他的个性太强。有不周到的地方，请委员长原谅他，无论如何留他的性命。”蒋介石说道：“韩向方不战而失山东，若不正军法，无以向国人交代。”孙桐萱建议道：“可撤韩司令之职，令他离开军队，或留洋，或留于委座身边，教他痛改前非，以观后效。”蒋介石只好说道：“好，好，可予考虑。”此时，蒋介石杀意已决，于是授予于学忠、孙桐萱第三集团军正副总司令之职。

　　由韩复榘第三路军扩编的第三集团军，原所属四个师及独立旅扩编为第十二、第五十五、第五十六共三个军，孙桐萱、曹福林、谷良民分任军长。谷良民第五十六军，下辖:第二十二师，谷良民兼任师长;第七十四师，李汉章任师长。该军在参加鲁北地区防御作战中，由于丧失了周村、博山战略要地，第三集团军前敌总指挥兼第五十五军军长曹福林逼迫副总司令孙桐萱撤销了第五十六军番号，军长谷良民撤职，第二十二师改隶第十二军，第七十四师改隶第五十五军。

　　一九三八年二月上旬，第五战区为防止北线日军乘机南下，遵照军事委员会的意图，采取以攻为守的战术，于二月六日命令第三集团军向济宁、第二十二集团军向邹县、第三军团向蒙阴发动攻势。

　　第三集团军接受的任务主要是以主力攻占济宁，以一部攻占汶上，尔后向济宁、兖州间实施侧击，策应主力作战；目的是确保陇海铁路的安全和威胁沿津浦路南下日军的右侧翼，相机切断津浦铁路之交通。

　　日军第十师团，师团长矶谷廉介中将，辖步兵第八旅团(濑武平少将)，下辖第三十九联队(沼田多稼藏大佐)、第四十联队(长野义雄大佐)；步兵第三十三旅团(濑谷启少将)，下辖第十联队(赤柴八重藏大佐)、第六十三联队(福荣真平大佐)。师团直辖骑、炮、工、辎各一个联队，还有通信队，卫生队和野战医院。临时配属两个炮兵联队，两个机枪大队，两个装甲中队。该师团因经常使用毒气而臭名昭著，被称为“臭鼬”。

　　此时，济宁日军为第三十九联队主力，约一千五百人，大部控制于南关，城中守卫部队约四百余人；汶上日军为其第三大队，约五百人。第八旅团主力与第十师团司令部位于兖州。

　　孙桐萱于二月十日下令，命第五十五军由金乡向济宁南关之敌进攻；命第十二军的第二十二师由定陶经巨野、嘉祥迂回至济宁以北的二十里铺附近，尔后向济宁北门进攻，协同第五十五军收复济宁城；命第八十一师对汶上之敌进行袭扰。规定二月十二日拂晓前到达进攻出发地位，十二日开始进攻。

　　担负主攻任务的曹福林的第五十五军派出一部兵力前进至济宁西南安居镇附近运河西岸，进攻开始时仅以一部兵力渡河，向济宁火车站及西关等地进行袭扰，并未以主力实施进攻，不久即为日军击退。

　　第二十二师到达嘉祥以东的运河西岸后，部署以第六十四旅为主攻部队，第六十六旅为预备队，随师部控制于运河西岸。第六十四旅由大长沟通过运河木桥，于十二日拂晓前到达进攻出发地位；第一二七团控制于二十里铺，掩护主力进攻，对汶上日军进行警戒；第一二八团及第一二九团秘密配置于济宁北关两侧，旅部推进至兴文镇。根据事先侦知的情况，本来预定天明后以小分队化装成居民潜入城内，然后发起进攻，里应外合，控制城门，歼灭城内日军。但日军已有觉察，当天未开东、西及北城门。第六十四旅旅长时同然急令北关的两团改为攀城强攻。

　　晚二十二时左右开始用长梯多路同时攀城进攻，伤亡甚众。后在西北城角处击坍一段城墙，约有九个连从缺口突入。日军第三十九联队队长沼田多稼藏将主力调入城中增援，首先以反冲击控制了城西北角的缺口，切断城内外中国军队的联系，然后向突入城中的部队发起围攻。双方在北大街及城西北隅关帝庙一带展开了激烈的肉搏巷战，逐屋争夺。突入的部队孤军奋战，弹药及人员均得不到补充，血战一日夜，至十四日拂晓，九个连的勇士全部壮烈牺牲。在城北的第六十四旅残部，十三日二十三时接到孙桐萱令其向运河西岸撤退的命令，在当地群众协助下，从北关外小道通过沼泽地转移至运河东岸，由第六十六旅接应，用民船渡过运河，到达西岸。

　　展书堂的第八十一师于十二日夜开始进攻汶上城，一度攻入北关，受日军猛烈火力袭击，伤亡甚众。由于济宁方面的第六十四旅已撤回运河西岸，第八十一师亦主动撤至开河镇附近，沿运河之线防守。

　　二月十七日，日军第二军参谋长铃木率道少将按照军司令官的意图，指示第十师团师团长矶谷廉介，令第八旅团旅团长长濑武平指挥以步兵约四个半大队、山炮兵一个中队为基干的“长濑支队”，于二十日开始向运河防线的中国军队发起进攻。经五天战斗，日军于二十五日突破运河防线，二十六日攻占嘉祥。日军占嘉祥后留一部兵力防守，主力集结于济宁。

　　中国第三集团军在逐次抗击后，撤至巨野、独山镇、大义集、孟家屯、相里集之线防守。

　　驻守邹县日军为第六十三联队，有一个大队在两下店占领前哨阵地。第二十二集团军接到向邹县之敌进攻的命令，孙震立即开始准备。

　　第二十二集团军为川军，总司令原本为邓锡侯。四川省主席刘湘突然死亡，四川政局波动。二月上旬，蒋介石电召邓锡侯到汉口，征询治川意见。邓锡侯呈述了三点:其一，四川是抗战后方，留驻川康的部队不少，应保留川康绥靖公署，以统率川康部队；其二，日军正猖獗进犯，战区扩大，应再抽调一些川军出川抗战，增援前方；其三，张群是四川人，熟悉四川事，建议委张为四川省主席。蒋介石基本采纳了邓锡侯的意见。二月十一日，邓被委任为委员长重庆行营副主任。随后，邓又被委任为川康绥靖公署主任。稍后，邓即从前线回到四川主持川康军务。因此，第二十二集团军由孙震统帅。孙震是孙元良叔父。

　　第二十二集团在山西战场减员太多且装备低劣，无力组织大规模的进攻，因此令第一二五师的第七三七旅由界河进攻两下店，令第一二七旅的第五七五团挺进至邹县、曲阜间，在敌人后方进行游击袭扰。

　　二月十四日，川军第七三七旅以第七四六团、配属地方抗日红枪会数百人担任主攻，以第七四五团占领铁路及郭山进行掩护。第七四六团命第三营对两下店实施夜袭，两次袭击均被击退。十六日下午，又以第一、第二营实施强攻，以第三营为预备队。经激烈战斗，于傍晚冲入村中，占领了两座楼房。但在日军猛烈的火力袭击下伤亡过半，被迫于拂晓前突围，退至郭山。十七日十四时，两下店日军开始反击。在进行了反复争夺后，第七三七旅于十八日退至香城、普阳山一线，与日军对峙。

　　奉命渗入敌人后方的第五七五团，在当地抗日武装及人民群众的积极配合、支援下，于二月十一日进至曲阜以南的九龙山一带。十四日，在邹县至曲阜公路两侧的小雪村、凫村附近，先后以伏击战消灭了两批日军，击毁汽车四辆，击毙日军翻译官中岛荣吉以下的官兵四十余人，缴获了武器弹药、军用地图、文件、作战资料等。十五日，日军由曲阜、邹县对进合击。第五七五团东撤至距邹县约十六公里的田黄镇，尔后返回滕县防地，归还建制。

　　正是由于津浦线上鲁西南中国军队的袭击，延缓了日军第十师团进军速度。

　　此时，在山东的另一支日军——板垣征四郎的第五师团，于一月四日攻占蒙阴、沂水，十日攻占潍县。随后，第五师团在津浦路以东开始沿着潍县、台儿庄公路南下，企图于津浦路北段的侧面直接攻击鲁南要地临沂，然后直下徐州。

　　防守临沂的是一支看起来有点不靠谱的军队。