戰至下午，日軍沒能取得更大的進展，雙方仍處於膠着狀態。
此時，戰場上突然傳來了最高統帥於2日午夜簽發給新20軍全體官兵的一份熱情洋溢的電報。
最高統帥此時給新20軍發來電報自是別有一番深意。12月25日，日軍攻佔了香港；1月2日，日軍又攻陷了菲律賓的首都馬尼拉。駐守香港、馬尼拉的英、美軍隊在日軍的進攻面前，節節敗退，不堪一擊，一觸即潰；相比之下，第9戰區的軍隊卻頂住了日軍的進攻已近半月，特別是在1日和2日這兩天的長沙保衛戰中，新20軍官兵死守陣地、敢打硬拼的那種視死如歸的精神更是令最高統帥感到欣慰、自豪與振奮。因此，在得知馬尼拉陷落的同時，他便馬上給正在極端困難的情況下，血戰幾十個小時，死守長沙城的新20軍發了一份長長的專電。電文如下：
長沙薛長官、劉軍長建業、邱師長行香、段師長金鎖、毛師長邦柱、方師長先覺並轉全體官兵均鑑：
我新編20軍全體官兵，兩日來堅守陣地，奮勇殲敵，致堪嘉慰。此次長沙會戰之成敗，全視我新編20軍之能否長期固守長沙，以待友軍圍殲敵人，此種光榮重大任務，全國軍民均矚目於我新編20軍之能否完成，亦即我新編20軍全體官兵成功成仁之良機。敵人懸軍深入，後方斷絕，同時我主力正向敵人四面圍擊，我新編20軍如能抱定與長沙共存亡之決心，必能摧破強敵，獲得無上光榮。望激勵所分部，完成使命，無負本委員長及國人所期爲要。
最高統帥的這份電文在新編20軍中一級一級地向下傳達後，它對於兩天來因連續作戰而傷亡慘重、筋疲力盡、幾乎已經到了崩潰邊緣的士兵們來說，無疑是一個巨大的鼓舞。當這些普通而平凡的士兵們，突然聽到自己的行爲已經受到最高統帥和全國軍民的注意與重視時，他們就好像一下子看到了自己生活的意義與自身的價值。各個陣地的據點、戰壕裡，頓時羣情鼎沸，一片歡呼，一度低沉的士氣重新又高漲起來。而從這種振奮中所煥發出的精神力量是難以估量的。就象有一句話說得那樣，老兵永遠不死，他們只會慢慢消失。士兵們並不害怕在戰場上流血犧牲，他們只是害怕自己的血戰，得不到人們的理解和重視，這會讓他們的心理產生巨大的失落。這種失落感，往往比死亡的威脅，更加打擊官兵們的士氣。
據日方記載，當天第3師團的戰鬥情況是：進攻長沙東門的石井部隊仍在城牆附近與守軍進行肉搏戰，“但由於彈藥極端缺乏，有的士兵在和重慶兵拼刺刀中戰死”。進攻南門的野部隊於早晨6時30分佔領南門外的東瓜山陣地，但大隊長橫田莊三郎被擊斃，而且“重慶軍憑據附近一帶的無數掩蔽工事，進行頑強抵抗，毫無退卻的徵兆，兵力愈加增多，事先已經儲備好的大批彈藥發揮了作用，反覆逆襲達數十次”；“橫田大隊的左側面已暴露在嶽麓山的重炮陣地之下。從正面又受到了優勢兵力的反攻，終日在反覆地死鬥中。正在第一線聯絡的聯隊副官神野一郎大尉戰死，第5中隊全體幹部負傷。此時，彈藥已經全部用盡”。
第6師團的戰鬥情況是：“3日拂曉，各部隊進入長沙城東北側，一齊開始攻擊。特別是步兵第23聯隊第12中隊急襲了長沙城北側陣地，在13時左右很快地挺進到湘江畔。另外第2大隊佔領了長沙城外的陣地。重慶軍從湘江對岸的嶽麓山，以重炮(15榴)應戰，猛烈轟擊。下午各部隊雖繼續在城牆外圍，竭力攻擊，但戰鬥陷入膠着，由於重炮（15榴）的集中轟擊，我方不斷傷亡。”
下午15時，豐島房太郎師團長給阿南惟畿寫了一份戰況報告：“敵有四道防線，在街道上設有碉堡，同時又憑據房屋防禦極爲頑強。目前在師團右翼方面，已展開巷戰，不久，可以取得戰果。”
此時的豐島房太郎師團長仍在做着攻佔長沙的美夢。
殊不知，此時第9戰區的大軍正迅速向長沙外圍合攏。至傍晚時分，第4、第79、第78、第26、第37、第20、第58軍等已全部進入第一次攻擊到達線。至此，第9戰區就形成了以3個軍(第10、第73、新20軍)固守長沙、嶽麓山，4個軍(第26、第79、第4、第74)分別進佔長沙以南、以東的金盆嶺、朗梨市一帶，5個軍(第20、第58、第37、第99、第73)分佈於汨水、撈刀河之間地區，控制着日軍退卻路線這樣一種從東南、東北、西面及北面對日軍的包圍圈。
薛長官見圍攻日軍的態勢已經形成，於是通令各部，限於1月4日晚全部進入第二次攻擊到達線。
4日拂曉，日軍發起全線進攻，動用空軍助戰。中國守軍全靠炮兵密切配合，官兵沉着迎戰，等到日軍進入火網，才用機步槍猛射，隨後投擲集束手榴彈，炮火也不停止，打死打傷大量的日軍，日軍後續部隊也被炮火封鎖，很難前進。
駐紮在嶽麓山的炮兵，只要步兵有要求，不出一分鐘，就可射出炮彈，準確性極高。天空中甚至出現一個奇蹟：日機空投的一隻給養箱，被守軍火炮擊中！這場景鼓舞了中國官兵的鬥志，他們拼殺更爲勇猛。日軍的炮彈似乎已經用完，炮兵不再回擊。豐島下令肉搏，日軍冒着刺骨嚴寒，赤背袒胸，向前猛衝。但是，血肉之軀，怎能擋住猛烈的火力！頻繁的炮射，呼嘯聲和爆炸聲，使日軍心驚膽戰，武士道精神大打折扣。這一場殘酷的搏鬥，日軍傷亡不下一千人。下午，日軍的衝擊變得軟弱無力，從望遠鏡裡可以看到，日軍後方人員忽前忽後，一片慌亂，他們的情況必定發生了變化。
原來，豐島和神田指望青木成一的第40師團能夠快速開到長沙增援，可是青木師團的先頭部隊進抵金井時，被中國守軍的外圍部隊從東、西、北三方合圍，無法突出。等到增援部隊趕來，四百名日軍只剩下二十名，幾乎是全軍覆滅，大隊長和兩名中隊長都被擊斃。
日軍池之上旅團，更是沒有消息。豐島和神田兩位師團長已經到了山窮水盡的地步。圍攻長沙城的部隊糧彈將盡，死傷慘重，攻勢屢遭頓挫，且處於被中國軍隊包圍狀態下，部隊的士氣已經低落，無心再戰，處境危殆。
到了晚上，前方的槍聲由緊密而稀疏，最後沉寂。半夜，新20軍指揮部收到長官部的通報：“第四軍、第七十九軍、第七十八軍、第二十六軍、第三十七軍、第二十軍和第五十八軍已經到達指定位置，開始行動，日軍後路已斷。”
這樣的局面，阿南惟畿在其軍伍生涯中還是第一次面對。他不甘心，但他不得不發佈撤退的命令。當然，爲了給自己的被迫撤退掩飾一下，多少保留一些顏面，他在撤退命令裡寫道：“我軍將敵軍牽制在長沙方面，已達到策應華南我第23軍之目的，並且掃蕩了長沙市內大部地區。我軍自今停止掃蕩長沙，於1月4日夜開始反轉，應擊潰殘敵，先向汨水一線前進。”