在臺兒莊內，中國守備部隊趁27師在城外發動進攻之際，極力向入侵之敵進攻。一線的守衛將士們，抱着寧死不失一寸陣地的決心，與敵人作着殊死的搏鬥。戰場上，隨處可見赤着臂、跣着足，揮舞着大刀，冒着槍彈向敵人陣地施行反衝鋒的守軍士兵。殺聲、喊聲、槍聲、爆炸聲使臺兒莊一帶沸騰了。
在臺兒莊久攻不下的日軍，向所屬的日軍華北方面軍第二軍請求戰鬥指導。日軍第二軍接到請求以後，命令第五師團的阪本支隊前往救援在臺兒莊進退不得，疲憊不堪，已經有一些打不動的瀨谷支隊，阪本支隊以兩個步兵大隊留在臨沂，以其主力步兵四個大隊及炮兵兩個大隊於當日夜晚開拔。日軍瀨谷支隊則繼續攻擊臺兒莊。突入莊內的敵軍在空軍支援下，連續發動猛攻，中國守軍利用民房、巷口、街道、院牆及工事奮力抵抗，勇猛殺敵，與敵人在莊內展開激烈的巷戰、屋戰、拉鋸戰。敵連日還在莊內使用毒氣，我軍受其損害頗重。
劉建業新編十四師下屬的新編五十二旅，在開進臺兒莊城內以後，接替了31師部隊在城西南角和南門一帶的防守任務。31師部隊則收縮兵力，和敵人繼續逐屋爭奪。新52旅在師長劉建業的教導下，採用了小分隊戰術，利用炸藥包炸開敵軍佔據院落的院牆，然後投擲密集的手榴彈，壓制敵人的火力，乘勢衝殺進去和敵人展開近身搏鬥。這是沒有辦法的事情，即使自己的火力被加強了，但是日軍也加強了自己的炮兵壓制火力。日軍投入臺兒莊作戰的炮兵部隊數量很多，與步兵之比已超過一比一，而且有30輛左右戰車加入戰鬥。而我軍僅有的幾門反坦克炮，在敵人的炮火打擊下，也已經損失得差不多了。儘管，31師部隊奮勇作戰，但是在日軍密集火力壓制和毒氣彈的殺傷下，部隊的兵員損失直線上升，陣地一步步地被佔據優勢的敵人蠶食着，一個個院落相繼失守。雖然，莊內的守軍竭盡全力，但是，在這一天的夜幕降臨的時候，日軍攻佔莊內東半部。31師撤往莊內的西北角組織防禦，新52旅則繼續堅守西南角。
爲了鼓舞守軍的士氣，第5戰區向軍委會請求，派中國軍隊飛機對徐州戰場作“象徵性參戰”，即不要求空軍承擔保衛指揮中心徐州市的任務，也不要求其長期配合陸軍作戰，只對臺兒莊一線敵軍陣地，作數次示威轟炸。蔣委員長當即予以同意。
劉建業在和孫連仲通過電話以後，把工兵連長叫了過來，吩咐他帶上一個排的工兵，在臺兒莊通往運河南岸的所有橋樑上全部安放上炸藥，做好起爆準備，然後，命令執行橋樑守備任務的補充團全部過河到運河北岸。等到補充團全部過了河以後，劉建業拿起電話，接通了徐州第五戰區長官部，請李長官接電話。
“請問是李長官吧？卑職是新編十四師的師長劉建業。卑職打電話來，是有一個請求，請李長官務必批准。”
“劉師長，有什麼要求儘管可以提，我還是那句話，只要要求合理，戰區肯定大力支援。”
“李長官，現在臺兒莊內，鬼子利用坦克飛機和毒氣的助戰，已經佔據了東半部分。我剛和孫總司令通過電話，我們一致認爲在這種情況下，必須要下定最後犧牲的決心，不時敵人死就是我們亡。所以，孫總司令下令第二集團軍所有部隊全部過河，集團軍指揮部也過了河。我剛纔也把補充團拉過河了，這樣，第二集團軍和我們師的部隊已經全部在運河北岸，準備和鬼子做決死戰鬥。爲了表示決心，堅定各部的戰鬥意志，我們準備炸掉運河上面的所有橋樑，還請戰區再派一個團的憲兵做督戰隊，在運河南岸架設機槍，凡是孫總司令和我部的官兵，只要有膽敢過河的，一律開槍射擊。希望李長官能夠同意。”
電話那邊，許久沒有說話。最後，在一陣嘆息以後，李長官的聲音響起：“那就這樣吧，一切保重了。”
放下電話，劉建業再向孫連仲作了通報。半個小時以後，孫連忠所部和新編十四師的所有營級以上軍官，齊聚運河北岸的河邊。在經過孫連仲的點頭以後，劉建業隊工兵連長下達了簡短的命令：“炸橋。”
一陣並不驚天動地的爆炸聲響過以後，隨着水面上被爆炸掀起的波浪的起伏，一塊塊殘破的木板漂浮在運河上。
“弟兄們，現在，我們已經沒有退路了，不是我們打敗小日本，就是我們被蔣委員長，被李長官要了腦袋。從現在起，我們有進無退，死而後生，誰敢擅自後退，一律殺無赦。”孫連仲的話，在蒼茫的夜色裡顯得有一些淒涼。
所有的軍官們在最後看了一眼運河橋樑的遺蹟以後，毅然決然的轉身向臺兒莊方向走去。
爲了收復失地，當天夜裡，池峰城決定組成敢死隊，當官兵們知道這個消息後，報名請戰者上百名。
池峰城對我官兵的英勇壯舉、犧牲精神深爲感動，當即選定了57位。
入夜，在炮火的掩護下，57名敢死隊員，均穿戴日軍軍服、鋼盔，腰間掛滿手榴彈，手持短槍。他們分數路爬牆入城，插入敵背後，以迅雷不及掩耳之勢衝入敵陣。一時間敵陣內喊殺聲四起，爆炸聲轟鳴。中國敢死隊員在敵掩蔽部內與敵人展開激烈的拼殺。敢死隊員受傷倒下了，便拉響身上的手榴彈，與敵人同歸於盡。激戰至午夜，收復掩蔽所5個、房舍數幢。西北城角之敵明顯受到削弱。
戰鬥結束後，英勇的敢死隊僅剩下13人。池峰城親自接見他們，對他們的勇敢獻身壯舉表示讚賞，並決定每人獎大洋30元，以資鼓勵。勇士們對池峰城表示道：“感謝師長的獎賞和鼓勵，然而錢我們不能收。我們以必死的決心去戰鬥的目的，是要確保我們以及我們的子孫不做日本帝國主義的奴隸，是爲了爭取民族的生存。比起死去的弟兄，我們是幸運的。如果收下了錢，我們將對不起死難的弟兄們。”
新編十四師也同時組織了敢死隊，帶着炸藥包，手榴彈和駁殼槍，利用地道，突然出現在敵人白天剛剛佔領的東南角，打了鬼子一個措手不及。衝進鬼子陣地的戰士，立即和鬼子展開了殊死的搏殺。不時有受傷的戰士拉響自己帶着的炸藥包和手榴彈，與敵人同歸於盡。有的戰士，在和鬼子拚刺刀時候，被刺中之後，胸前插着刺刀，還把自己的刺刀也送進鬼子的胸膛。由於雙方已經攪在了一起，沒有了清楚的戰線分割，爲了避免誤傷，鬼子的炮兵也不敢進行射擊。經過了將近大半夜的爭奪，新編十四師的敢死隊，佔領了臺兒莊內東南角相互聯結的六個院落和幾個可以作爲機槍暗堡的掩蔽所。可是，出發的80人，已經只剩下27人，還包括12個已經失去戰鬥能力的重傷員了。
30日，瀨谷支隊留守後方的步兵第10聯隊也在磯谷師團長的命令下，由嶧縣附近南下，於當日下午到達臺兒莊以西範口附近，準備投入對臺兒莊的爭奪。
這一天的清晨，天氣很好，天空上的雲很少，天空顯得很清爽。只有地面上一直不停的槍炮聲和硝煙，破壞了這種美好的畫面。
天空中突然傳來了飛機馬達的轟鳴聲。不一會兒，碧藍的天空中果然出現了9架銀燕，日軍陣地上的鬼子們見有飛機來臨，以爲又是他們的飛機前來助戰，便紛紛晃動太陽旗，以示前線敵人陣地的位置。豈料，飛機在陣地上空盤旋了幾周後，突然向日軍陣地俯衝投彈。日軍陣地頓時全面開花，濃煙滾滾。日軍在毫無戒備的情況下被這突如其來的轟炸弄蒙了，日軍嗷嗷亂叫着，四處亂竄。日軍的炮兵陣地也被幾枚炸彈擊中，幾門火炮被炸翻了。原來一直在不停炮擊我軍陣地的鬼子炮兵也嚇得丟下了火炮，到處尋找可以掩蔽的地方。中國軍隊飛機完成轟炸任務後，相繼飛臨中國軍隊陣地上空，低飛擺翼，向堅守陣地的英勇官兵致敬。此時，已認出中國軍隊飛機的戰士們紛紛躍出戰壕掩體，舉槍脫帽，歡呼雀躍。許多士兵流下了激動的熱淚，嘴裡不時地呢喃着。中國空軍首次在臺兒莊上空的出現，對堅守陣地的我方將士起了很大的鼓舞作用。
當臺兒莊的守衛將士們與敵拼死搏殺、苦苦支撐之時，30日晚，第31師接到幾日來杳無音信的第20軍團之第52軍關麟徵軍長的電示：“軍以任務關係，不克及時南來，殊引爲憾，現奉命以全部攻擊臺兒莊之側背，31日午後可與敵接觸，我輩鐵血男兒，決當與敵一拼也。”
截止28日，臺兒莊激戰從23日開始，第31師已與南下的日軍進行了5天血戰，早已超過了湯恩伯要求其堅守3日的期限。但湯恩伯並沒有兌現他戰前許下的諾言：一旦31師與日軍接戰，第20軍團即揮師南下，夾擊日軍。那麼，第20軍團這幾日在幹什麼呢?
說穿了就是力避與日主力相遇，保存實力，根據戰局發展，相機而動。從湯恩伯和第20軍團的行動看，湯軍團並沒有貫徹本戰前制定的作戰計劃。其第85軍沒有在24日拂曉前解決棗莊附近之敵、佔領棗莊，第52軍也沒有在24日拂曉開始向嶧縣進攻。
其實，湯恩伯對於第5戰區能否守住臺兒莊、臨沂是缺乏信心的，在他看來，如果這兩個方面不保，那麼，他的第20軍團在嶧縣與日軍主力接戰，就有受到日軍夾擊的危險。反之，如果臺兒莊、臨沂中國軍隊能守住陣地，挫敗日軍進攻，最大限度地消耗敵軍，那麼，打疲憊之敵是更容易、更省力，更有把握，也更便於獲得戰功的。
因此，湯恩伯一方面做出了避免與日軍主力接戰的部署，一方面謊造軍情，應付李宗仁和31師的不斷來電。以主力先攻擊棗莊之敵爲由，將第20軍團主力置於棗莊以北山地，按兵不動。
直到28日湯恩伯仍沒有全部南下的決心和部署，置李宗仁的命令於不顧，一再尋找藉口，將第85軍留于山區，而命第52軍的一小部分南下側應孫連仲軍，以機動的態勢，可打可走。當時的52軍，除軍直屬部隊外，還有8個團的兵力，按湯恩伯的計劃，僅派出3個團。這樣的分散使用兵力，關麟徵一開始就是不贊成的。他主張要打就集中力量打，而不要零敲碎打。因此，關麟徵在28日並未做出派3個團迅援臺兒莊的部署。
李宗仁見湯軍團遲遲不來，於28日晚10時給湯恩伯發去電令：“臺兒莊方面孫集團陷於膠着狀態，敵我均在困難中，貴軍應爲有力之援助迅速南下夾擊之。”
接到李宗仁電報，湯恩伯仍一再拖延。
29日深夜，李宗仁再次給湯恩伯發去命令。但湯軍團這時的行動仍然遲緩，第52軍第2師的偵察小隊雖於29日下午曾抵達臺兒莊以北10餘公里處的張樓一帶探察敵情。但其主力此時卻在臺兒莊以北30公里以外地區。
30日晨，第52軍始抵臺兒莊東北約25公里處的蘭陵鎮，隨後向西南方推進。但直到30日下午，孫連仲仍未能與52軍取得聯絡。
李宗仁對湯軍團的避戰行爲十分不滿。將湯軍團的避戰情況電呈蔣介石知曉，同時於30日晚8時再次電令湯恩伯：“着貴軍團長以一部監視嶧縣，親率主力前進，協同孫軍肅清檯兒莊方面之敵。限時(31)日拂曉前到達，勿得延誤爲要。”
湯恩伯接此電令後，知軍令不可再違，方開始督促所部加緊進攻，他本人也於當晚前往洪山鎮、蘭陵鎮指揮。
52軍接令後，其主力於31日拂曉前，從距臺兒莊以北十幾公里處的甘露寺，向日軍側面壓過來。在中國軍隊優勢兵力的猛攻下，日軍節節敗退。戰至午後3時，中國軍隊先後攻克馬莊、大莊、張樓、賈家埠、小集、蘭成店、三佛樓等地，收復村莊十餘座，將戰線向前推進4公里。
至此，臺兒莊一線防禦的壓力暫得到緩和。