十一月十一日，即宣佈上海全線撤退的第三天，蔣介石在南京召開一次會議，專門討論保衛南京問題。會前白崇禧寫有一個建議：宣佈南京爲不設防城市，他是基於下面的各種考慮提出此一建議的：
一、假如早時依白崇禧的設想，滬戰只作輕微抵抗，將主力撤到南京，深溝高壘，以守上海的精神守南京，儘管南京最後還是失守，但其抗敵成果一定較大。今我軍沒有第二線的主力軍，調來防守南京的完全是一些在滬戰打過仗的殘破部隊，已經衰竭不堪，其不能克敵制勝，蓋可斷言。
二、南京爲孫中山先生親自指定的首都，是總理陵園所在地，殊不忍使其受到戰爭的破壞，宣佈爲不設防城市，當爲國內外有識之士所共喻。
三、不守南京，可將我軍撤到大江南北，既可防止敵軍西攻武漢，又可延緩其打通津浦線。
可是在會議上，蔣介石首先表示南京爲我國首都，中外觀瞻所繫，必須固守。經他這麼一說，白崇禧就不便把他的不設防動議提出來了。
跟着蔣介石就問：“守南京的問題就這樣決定，大家看誰來負責好？”
當時沒有人吭聲，過了一會兒，唐生智忽自告奮勇道：“軍人以身許國，我願負此責任，誓與南京共存亡。”蔣介石看見唐孟瀟（生智）毛遂自薦，十分高興，隨以手令發表唐生智爲南京衛戍司令長官，羅卓英、劉興爲副司令長官。唐生智於十一月二十日就職。
守南京的部隊爲桂永清的教導總隊，宋希濂的第三十六師，沈發藻的第八十七師，孫元良的第八十八師，丁治磐的第四十一師，徐繼武的第四十八師，以及憲兵兩個團，炮兵第八團的一個營、高射炮營、通信營等，共約七萬人左右。
唐生智就職後，蔣介石令白崇禧協助唐生智偵察南京城內外的地形。那時大江南北，白雪紛飛，白崇禧與唐生智同坐汽車先到城外湯山、棲霞、烏龍炮臺、秣陵等地視察陣地。次日，繼續巡視城內的蔣山、雨花臺、天堡城等地。在視察時，白崇禧發現唐生智身體衰弱，氣息喘急，披着重裘，猶不勝寒，在平地他還可以下來看看，及爬高山，他便託白氏代爲偵察。白崇禧看到唐生智健康如此，不禁爲南京防守擔心。
在唐生智就職之日，國民政府已宣告遷都重慶。十二月一日，國民政府開始在重慶辦公。十二月二日，蔣介石在南京召集白崇禧、顧祝同、徐永昌、唐生智舉行會議，討論德使陶德曼交來日本提出的和平條件，這是蔣百里在柏林活動的結果。日方要求：內蒙自治；華北建立一個非軍事區；國民政府停止反日政策；中日共同防共，等等。白崇禧說：“如果條件只有這些，是可以商量的。”其他各人也表示：此等條件可以作爲談判的基礎。隨後，白崇禧陪同蔣介石於十二月七日上午五時四十五分離開南京飛往南昌。自六日起日寇分兵四路攻我南京。南京守軍又增加了葉肇的兩個師，巫劍雄的一四五師，王耀武（1904—1968，黃埔系骨幹將領，在江西與紅軍作戰中因功被提拔爲師長。在抗日戰爭中大放異彩，帶着74軍打遍了大江南北，以上高、常德、雪峰山三戰最爲出色，憑戰功出任方面軍司令官和山東省政府主席。1964年，任全國政協委員。）的五十一師，馮聖法的五十八師，都是從滬戰前線退下來的，總兵力達到十一萬多人。
南京保衛戰只打了八天。十二月十二日，敵第九師團主力猛攻中華門外雨花臺，守軍第八十八師傷亡慘重，至正午雨花臺陷落。敵自此居高臨下，以重炮向城內據點轟擊，炮火聲震撼全城，南京遂告陷落。
十二月十三日，敵軍入南京城，殘殺我軍民三十萬人。爲現代史上破天荒的殘暴紀錄。
一九三八年元旦，白崇禧從南昌來到金華與第三戰區司令長官顧祝同商軍事，決定錢塘江南岸防務由第十集團軍總司令劉建緒負責，北岸由第二十一集團軍總司令廖磊負責。白、顧兩人還到錢塘江北岸視察了一週，然後白崇禧到皖南去了。黃紹竑此時從山西回來，回任浙江省政府主席。他在金華晤白崇禧後，隨即去永康佈置浙江的臨時省會。
四、逮捕韓復榘與臺兒莊大戰
白崇禧在金華與廖磊會晤後，即由皖南、合肥去徐州看第五戰區司令長官李宗仁，商津浦線作戰事宜。
李宗仁於一九三七年十月十日離桂北上，先去南京接洽一切，然後到徐州組建司令長官部。五戰區最初指揮的部隊爲李品仙的第十一集團軍，原駐隴海路東段龐炳勳第三軍團，原駐青島的于學忠第五十一軍，原駐濟南附近的韓復榘第三集團軍，這四個部隊共約七萬人。其他部隊是後來陸續增加上去的。
白崇禧此次遠道而來，是告訴李宗仁，廖磊所指揮的第七軍和第四十八軍，他已徵得蔣介石的同意，從第三戰區調來第五戰區。估計敵自佔領南京後，即向江北推進，企圖打通津浦線，貫通南北戰場。所以廖磊集團軍調來五戰區是必要的，此外還要增加其他部隊。
李宗仁向白崇禧談到，山東韓復榘是態度模棱，毫無戰意，十二月下旬先後放棄了濟南、泰安，一月上旬又放棄了大汶口和濟寧，使我軍事上受到不利影響。白崇禧回到武漢報告蔣介石，蔣氏認爲情況嚴重，當召集何應欽、陳誠前來一同研究，鹹主張對韓復榘予以制裁。
一九三八年一月十一日，蔣介石偕白崇禧飛開封，在那裡召開軍事會議，李宗仁帶韓復榘前來參加。在會議間，忽然發了空襲警報，劉峙對韓復榘說：“我有專列在車站，如發出緊急警報，可將火車開出郊外。”韓氏欣然同往。一上車，立刻開動，唯已失劉峙蹤影。一軍官對韓氏出示“撤職查辦”的命令，解往武漢交付軍法判處死刑，於一月二十四日執行。韓復榘所兼第三集團軍由孫桐萱（1895—1978，抗戰時期任第三集團軍總司令，率部參加臺兒莊戰役。1943年，被蔣介石以“通敵有據”的罪名下令予以扣押，但未能定罪。1946年退出軍界前往北平，1978年在北京病逝。）升任總司令，士氣復振，向濟寧、汶口反攻，正面也由鄒縣出擊，相持之局遂成。
一月十七日，軍事委員會改組，以何應欽爲總參謀長兼軍政部長，白崇禧爲副總參謀長兼軍訓部長。時武漢爲抗戰重心所寄，中央駐武漢的代表周恩來、葉劍英，通過政治部副部長黃琪翔的聯繫，經常應白崇禧之邀，到武昌蛇山腳熊廷弼路白公館研究抗戰戰略問題。
一月下旬，日軍第十三師團自津浦線南段北上，向桂軍第三十一軍韋雲淞部的明光、池河等處推進。周恩來向白崇禧建議：津浦線南段應避開正面，而以強大兵力用運動戰、游擊戰從側面困擾，打擊敵人，使其不敢深入。白崇禧十分讚賞周恩來的意見，即向李宗仁轉達。還通知李宗仁：新四軍張雲逸部，已調到江北歸第十一集團軍指揮節制。
李宗仁採納了周恩來上述的建議，在津浦線南段以離心退卻、誘敵北上爲指導方針。因此，自二月三日起，敵先後佔領定遠、鳳陽、臨淮關、蚌埠等地。第五十一軍于學忠退守淮河北岸，敵乘勢渡淮。于學忠退至澮河、渦河沿岸。戰事發展至此，李宗仁一面以張自忠的第五十九軍協助於學忠防守淮北，一面以第七軍、第三十一軍和新四軍一部在老人倉向定遠、池河側擊敵人。此時第十一集團軍總司令李品仙在合肥指揮，在鐵路兩側，到處發動游擊戰，使敵顧此失彼，疲於奔命，其第十三師團不得不從淮北撤退，我亦將張自忠部調去滕縣。以後津浦線南段敵軍不能北上參加臺兒莊戰事。悉以此爲契機。
二月間，廣西學生軍出發徐州前線時駐蛇山玉冰堂，白崇禧特邀周恩來、陳紹禹、秦邦憲對這些青年學生講話。這充分表現白氏中間偏左的精神面貌。
蔣介石當時想利用白崇禧的超然地位同接近，而從中傳遞一個訊息。蔣氏當時有一項設想，以爲中國在去年（一九三七）八月二十二日發表宣言，意思說三民主義爲中國所必需，本黨當共同奮鬥以求其實現。因此蔣介石頗欲乘此時機，將國民黨、與其他黨派（如青年黨、國社黨）融合於一個信仰——三民主義與一個組織之下，共同爲國家獨立民族解放而努力，如同意此一做法，則國民黨可以改名或成立其他組織。關於此事，白崇禧曾受蔣介石的委託，同在武漢的領導人談過。陳紹禹原則上贊同，周恩來則謂取消是不可能的。後因臺兒莊大戰爆發，白崇禧忙於軍事，就把這個問題擱在一邊了。
且說一九三八年二月初，敵第五師團板垣徵四郎所部從膠濟路南進佔領蒙陰、沂水、莒縣、日照等地，李宗仁令龐炳勳的第三軍團向臨沂推進阻敵；同時令張自忠的第五十九軍由滕縣馳援臨沂，李宗仁並派參謀長徐祖詒親往前線指揮，協調龐張兩部行動，龐張兩部內外夾攻，血戰五晝夜，敵向沂水退卻，粉碎了敵企圖沿膠濟路向徐州推進的計劃。
日軍以左翼迂迴不成，乃以磯谷廉介的第十師團沿臺棗支線挺進，欲以迅雷之勢攻佔臺兒莊，以爲進攻徐州的據點。軍委會了解敵情後，即令湯恩伯的第二十軍團自歸德增援徐州，另自晉南調第二集團軍孫連仲部至徐州歸第五戰區司令長官李宗仁指揮。
三月十五日，敵第十師團從界河進攻滕縣，我守城的部隊爲川軍孫震所部的第一二二師，師長王銘章（1893—1938，著名抗日將領。臺兒莊戰役中王銘章“決心死拼，以報國家”，其屬將領除少數突圍外，皆灑盡了最後一滴血。國民政府對王銘章將軍奮勇抗戰給予高度評價，並追贈爲陸軍上將。1984年9月1日，四川省人民政府追認王銘章爲革命烈士。）憑城固守，等待湯恩伯軍團的增援，湯部沒有及時趕到。十七日，城破，王銘章壯烈殉國，所部犧牲殆盡。
三月二十四日，敵第十師團以一部進佔韓莊，主力沿臨棗支線挺進，攻佔棗莊、嶧縣後，其前鋒福榮聯隊乘勢猛撲臺兒莊。李宗仁以孫連仲部擔任臺兒莊的防衛，而令湯恩伯軍團埋伏於臺兒莊東北地區，等到日軍進攻臺兒莊時，即協同孫部內外夾擊，予以圍殲。但湯軍團沒有及時採取行動，致孫部孤軍拒敵，犧牲慘重。
蔣介石於三月二十四日偕白崇禧飛徐州視察，當日蔣氏返武漢，留下白崇禧協助李宗仁指揮台兒莊戰事。自三月二十四日起，敵磯谷師團主力，逐次加入臺兒莊陣地，倚靠空軍、重炮、戰車的支援，敵一度攻入臺兒莊北門，佔去城塞四分之三，我孫部池峰城（1904—1955，中將銜。先後參加臺兒莊會戰，徐州會戰，武漢保衛戰。解放戰爭中，任過河北省政府代主席，1949年1月策動軍統北平站長徐宗堯起義，率所部參加北平和平解放。因“歷史遺留問題”受審，1955年在北京監獄病逝。）師死力支撐，以待我外圍機動兵團的合圍攻擊，其處境極爲艱險。
至三月二十七日，湯恩伯軍團終於遵照李宗仁的命令，放棄進攻嶧棗的計劃，以主力向臺兒莊北側之敵進攻。到三月三十一日，臺兒莊之敵，遂完全陷入我包圍圈中。此時敵津浦北段指揮官西尾壽造，接到第十師團被圍的報告，乃令第五師團放棄進攻臨沂的企圖，除以一小部牽制龐、張兩部外，餘均轉運到愛曲，攻我湯軍團的側背，企圖解磯谷之圍。
湯恩伯軍團以關麟徵（1905—1980，國民政府陸軍總司令，用兵以穩，準、狠著稱，1947年，關麟徵任中央陸軍軍官學校第二任校長（第一任蔣介石）。蔣介石兵敗大陸，關麟徵退居香港，深居簡出，閉門謝客。）第五十二軍迎擊來自臨沂之敵，李宗仁及時地令新由河南開來的周喦（1895—1954，參加過淞滬會戰。1949年1月，調任京滬警備副司令兼浙江警備司令。1953年病故於臺北。1954年蔣介石追贈周喦爲陸軍上將。）第七十五軍應援關麟徵軍，協力將該敵擊破，仍回師圍攻臺兒莊之敵。四月六日晚間，我軍殲滅了敵第十師團大部、第五師團及徐州支隊一部，殘敵向北潰退。奔入嶧縣負隅固守。
白崇禧總結臺兒莊的勝利，認爲乃陣地戰、運動戰與游擊戰緊密配合的戰果。這是科學地概括。因爲在津浦線南段，我以游擊戰困擾敵軍，使其不敢渡淮北上參加臺兒莊大戰；又在臺兒莊內外，又是陣地戰與運動戰結合。所以臺兒莊大捷，得來很不容易。
徐州乃四戰之地，易攻難守。臺兒莊所以打了勝仗，是因爲敵軍北動而南不動，使李宗仁、白崇禧能夠集中優勢兵力，聚而殲之。日軍在臺兒莊敗仗後，陸軍大臣來巡視了，參謀總長來指揮了，集中晉綏蘇皖的兵力三十萬人，分從南北總攻徐州，以達到其打通津浦路的目的。
與此同時，白崇禧回到武漢向蔣介石報告臺兒莊作戰經過，並要增援徐州。蔣介石將下列部隊在四月二十日以後調到第五戰區：李延年的第二軍，樊崧甫的第四十六軍，盧漢的第六十軍，劉汝明的第六十八軍，李仙洲（1894—1988，中將銜，黃埔軍校第一期畢業。抗戰時參加過徐州會戰、武漢會戰諸役。1946年後任第二綏靖區中將副司令長官，萊蕪戰役指揮2個軍被伏擊，瞬間全軍覆沒，陳誠罵：“就是放六萬頭豬讓共軍去抓，三天也抓不完！”1960年11月28日特赦釋放。後擔當南京黃埔軍校同學會名譽會長，1988年10月22日在濟南逝世。）的第九十二軍。增援的部隊幾達二十萬人。
白崇禧在電話中傳達這一訊息時，李宗仁問道：“委員長調了這麼多部隊幹什麼呢？”
白崇禧說：“委員長想要你擴大臺兒莊的戰果。”
“現在已經太遲了。”李宗仁惋惜地說。
白崇禧未嘗不知道增援過遲，如果在四月初這些部隊就開到徐州周圍，那多麼好啊！可以一鼓作氣，擴大戰果，現在顯然已失時機了。但爲延緩敵進攻武漢，不得不增援徐州。
四月二十六日以後，敵分兵六路，以徐州爲中心，作外線的進擊；白崇禧於四月二十二日再到徐州協助李宗仁指揮調度。以下是作戰經過。
在津浦線南段，敵除以一部犯合肥，牽制我的這方面的兵力外，復以其第九兵團及井關機械化部隊，沿渦河出蒙城。同時，阜寧、淮陰方面，亦有敵第三、第一〇一、第一一六師團的活動。五月九日，蒙城淪陷。十二日，敵又陷永城，直趨黃口車站，並以一部進犯徐州，此時蚌埠附近之敵第一〇二、第一〇七、第一一九師團各一部亦逼宿縣。
在津浦線北段，濟南方面之敵第一一一師團亦向南進犯，五月十一日及十四日，鄆城菏澤相繼失守。敵又以十六師團一部，由南陽鎮西渡南陽湖，攻我魯西軍右側背；敵第一一四師團又於十四日陷我金鄉魚臺。此時李宗仁、白崇禧理解到：爲了粉碎日寇“速決”企圖，只有把我徐州大軍迅速西移。五月十三日，開始行動，五月十九日，宣佈放棄徐州。白崇禧於五月二十九日回到武漢。