此時第五戰區在李宗仁將軍的指揮下，也是積極調整部署，調集主力部隊，準備在臺兒莊一線，與日軍進行決戰，爭取一舉殲滅日軍第十師團主力。
爲了達到誘敵深入的目的，李長官決定讓開津浦鐵路正面，引誘第十師團孤軍深入，於是下令臨城的中國軍隊，全部撤退。其中川軍撤往徐州附近一帶待命，湯恩伯之第20軍團撤往蘭陵及其西北雲谷山區，誘敵深入，待機破敵。
急於立功的瀨谷啓率部離開了藤縣之後，一路南下直撲臨城，由於中國軍隊主力已經撤退，臨城守軍只是象徵性的抵抗了一下，也隨即撤退。因此日軍輕而易舉的攻佔了臨城。
輕鬆拿下臨城之後，瀨谷啓終於找回了一些自信，自大的以爲中國軍隊已經失去了抵抗的意志，於是繼續率部一路南犯，企圖直犯徐州。結果在運河沿線遭到了中國軍隊第52軍第二師的頑強抵抗。
而與此同時，磯谷廉介率領的另外一股日軍，沿臨趙（墩）鐵路於20日攻佔棗莊，21日攻佔嶧縣城，矛頭直指臺兒莊。於是磯谷廉介改變策略，準備集中兵力進攻臺兒莊，拿下臺兒莊之後，在繼續進攻徐州。
與此同時，徐州城內，第五戰區司令長官部內，李宗仁長官召開緊急軍事會議。會上李宗仁將軍一臉嚴肅的說道：“臺兒莊之得失，關係到整個徐州的安危，目前日軍第十師團經過藤縣保衛戰之後，損失慘重。僅剩下大約兩個步兵聯隊，加上炮兵聯隊，騎兵聯隊等部約一萬餘人，不過日軍之第40聯隊以及一批補充部隊已經從濟寧南下，緊急支援臺兒莊一線，如果這股日軍趕到，臺兒莊一線的日軍總兵力將超過一萬五千人，甚至更多。然而我們已經退無可退，爲了保衛徐州，我們必須死守臺兒莊，消耗日軍之銳氣，創造殲敵之良機，爭取一舉全殲日軍第十師團。”
與會諸將，全都正襟危坐，認真的聽取着李長官的講話。
李長官停頓了一下，轉身看向了旁邊坐着的第二集團軍總司令孫連仲將軍，親切的說道：“仿魯兄，你們第二集團軍負責堅守臺兒莊，臺兒莊的得失至關重要，自從抗戰爆發以來，我軍連戰連敗，喪師失地，北平，天津，上海，南京相繼失守，如此情形之下，徐州不容有失，因此必須死守臺兒莊保衛徐州之安全，不知仿魯兄可有把握守住臺兒莊。”
孫連仲將軍聞言直接站了起來，一把掏出了配槍，直接拍在了桌子上面，大義凜然的說道：“俺是個粗人，性子直，不會溜鬚拍馬，更不是那些只會花言巧語的繡花枕頭。既然李長官命令我部死守臺兒莊，我孫連仲甘願在此立下軍令狀，我第二集團軍所有將士甘願與臺兒莊共存亡，哪怕戰鬥到一兵一卒，絕不後退半步，
只要我孫連仲還有一口氣在，小鬼子休想踏過臺兒莊半步。如果丟失了臺兒莊，李長官可以拿着這把槍斃了我孫連仲，俺半句怨言。”
“好！”李宗仁將軍聞言連忙站了起來，一臉激動的說道：“有仿魯兄這句話我就放心了，如果我軍將領都能像仿魯兄這般，又何愁不能早日驅逐日寇，還我河山。”
孫連仲將軍連忙說道：“李長官謬讚了，卑職只是在盡一個軍人的職責而矣。”
李宗仁將軍連忙拿起了孫連仲將軍的配槍，親自給孫連仲將軍放回了槍套之中，微笑着說道：“仿魯兄乃是一代名將，尤其擅長守城，有仿魯兄親自坐鎮臺兒莊，定然能夠確保萬無一失。仿魯兄快快請坐。”說着李宗仁將軍親自扶着孫連仲將軍坐了下來。
李宗仁將軍也回到了自己的座位上坐了下來，笑着說道：“仿魯兄，能否簡單的說一下你們的佈置。”
孫連仲將軍點了點頭說道：“按照計劃，我第二集團軍之第31師負責守衛臺兒莊城寨及附近地區，第三十一師師長池峰城親自坐鎮臺兒莊城內指揮，第二十七師、第三十師和第四十四旅陸續集結於賈汪東北和臺兒莊以南地區，以便隨時支援臺兒莊。我第二集團軍總司令部設在距臺兒莊城寨以南五公里處，以便能夠就近指揮各部協同作戰。”
“好！”李宗仁將軍滿意的點了點頭，轉身看了一眼池峰城將軍，笑着問道：“池師長，你們第三十一師負責守衛臺兒莊，責任重大，我相信你們一定能夠完成國家和民族交給你們的使命，將小鬼子擋在臺兒莊，爲主力部隊全殲日軍第十師團創造機會。”
池峰城將軍聞言連忙站了起來，大聲保證道：“請李長官放心，我第三十一師全體將士已經奉命開赴臺兒莊地區，構築工事，準備迎敵。我全師將士已經抱定必死之決心，死守臺兒莊，哪怕戰鬥到一兵一卒，也絕對不會讓小鬼子踏過臺兒莊半步。”
“好！正所謂將有必死之心，士無貪生之念，諸公能有如此之決心，何愁日寇不滅，此戰我中國軍隊必勝！”李宗仁將軍再次站起了起來信心滿滿的說道。看書(.ns. ）
隨後李宗仁將軍接着說道：“其餘各部隊也要防守各自防線，絕對不能給小鬼子任何可乘之機，以保障此次臺兒莊戰役的勝利。”
“是！”其餘與會諸將齊聲應道。
隨後李長官又交代了一些具體的任務，會議結束之後，與會的衆將先後離開了司令部。
這時參謀長徐祖詒對李宗仁將軍說道：“委座再次發來電報，詢問徐州的戰況。”說着將手中的一份電報，遞給了李宗仁將軍。
李宗仁將軍接過了電報之後，仔細的看了一遍，笑着說道：“看來老蔣這次也是真着急了。”
徐祖詒微笑着點了點頭說道：“徐州會戰的勝敗關係重大，委座又怎能不着急呀？我聽說最近這幾天，委座就會再次親臨徐州前線。”
“哼！他來幹什麼？瞎指揮，添亂嗎？”李宗仁冷哼了一聲說道：“走，去機要室，我親自給他發一份電報。”