湯恩伯躊躇滿志。頭頂上抗日名將的光環此時正是最爲閃亮的時刻。要說軍事才幹，此公遠遠談不上傑出，但也不能算太草包。抗戰初期，確實參加了一些大的戰役，戰績還算說得過去。1936年，就參加了百靈廟戰役。1938年，率領20軍團參加徐州會戰，在臺兒莊之戰中負責從側後出擊，遲遲不動，使得正面防守的孫連仲部隊損失慘重，李宗仁多次嚴令都不起作用，直到蔣介石親自下令後，才全力出擊，出擊的雖晚，但在此後的追擊戰中戰果倒也不小。徐州會戰後期，負責歸德也就是商丘一線防守，後又率部退至平漢鐵路南段防守。陳浩當年收容的散兵，許多原是湯軍團的官兵。
武漢會戰，湯恩伯率三十一集團軍在大別山組織防禦，阻止了南下日軍越過大別山。
武漢失守後，湯恩伯帶部隊撤往湖北隨縣、棗陽地??。1939年5月，日軍以三個師團兵力向隨、棗一帶發動進攻。湯恩伯指揮部隊在隨棗公路兩側佈防，構築袋形陣地，以期一鼓殲滅來敵。此計被敵人窺破，未能實現殲滅敵人大兵團的雄心壯志，但是也給了敵人一定殺傷，擊退了來犯之敵。
1940年，國民黨設立魯蘇豫皖邊區總部，湯恩伯兼任總司令，總部設在皖北臨泉縣。此時他的主力部隊三十一集團軍仍在五戰區序列，司令部設在河南葉縣。這個葉縣就是當年漢光武劉秀取得昆陽之戰勝利的那個昆陽城。此後，直到1944年豫中潰敗，湯恩伯的老巢一直是在葉縣。湯就任四省邊區總司令後，立即將手伸向河南全省及四省邊區，抓兵、徵糧、要餉，在一戰區轄區爭權奪利。爲了控制部隊，達到稱王中原的目的，湯恩伯對下結黨營私，還蓄意把部下分爲好幾派以利自己控制。對上不惜重金重利賄通，蔣介石身邊的權貴大大小小几乎都受過他不同程度的賄賂。他還不惜重金從日佔區搞貴重物資作爲禮品，輾轉千里，專車專船運往重慶。這樣，博得了蔣介石及其身邊權貴的青睞。湯恩伯大力擴充軍隊，除了正規軍外，他又成立了一個所謂挺進軍總指揮部，收買四省邊區的遊雜部隊編成80多個縱隊，每個縱隊多者3000人，少者三四百人。其他還有什麼獨立旅、補充團等等名目繁多的部隊。當時魯蘇豫皖四省日佔區和蔣管區的流氓、地痞、地主武裝無不被他收羅在內。這些所作所爲，極大地加重了中原人民，特別是河南省蔣管區人民的負擔。老百姓要出子弟當兵，獨子也不例外，還要出人修築國防工程，例如兩條蜿蜒千里的防坦克壕之類，還要忍受名目繁多的苛捐雜稅。他的主力部隊的老部下曾有些人勸他裁撤那些“於抗戰毫無裨益”遊雜部隊，反而引起了湯恩伯對他們的不滿。湯的部隊最多時號稱40萬大軍，這些人的軍糧、軍餉均出自地方。到1943年。河南大旱，加之蝗蟲爲災，赤地千里、餓殍遍地，而湯恩伯的征斂卻絲毫沒有減少，弄得中原大地十室九空。當時，漯河至周口大道兩側的麥田中，每隔十步八步，就可見到餓殍屍體無人收斂，被野狗爭食。
１９４１年初，湯恩伯尚未當上一戰區的副司令長官。三十一集團軍還屬於五戰區的戰鬥序列，戰鬥力還未有明顯減退。１月份爆發了豫南會戰。
日軍爲了解除中國軍隊對信陽的威脅，糾集了7個步兵師團，1個騎兵旅團和3個戰車聯隊的兵力，在司令官園部和一郎的指揮下，分三路向豫南發動進攻。湯恩伯部隊駐守區域是其主攻方向。
1月25日清晨，日軍開始進攻，西路敵軍第3師團和第4師團一部在豐島師團長指揮下，由豫鄂交界處的小林店東西一線分三路向駐馬店地區的泌陽、高邑、邢店進攻；中路敵軍第17師團和15師團一部在第17師團平林師團長指揮下，由明港沿平漢鐵路向北攻擊；東路敵軍由第40師團天谷師團長指揮，自駐馬店正陽縣出發向上蔡方向進攻。日空軍出動數十架飛機配合作戰，對中國守軍陣地狂轟濫炸。26日，日軍突破守軍陣地，佔領泌陽、高邑、邢店、確山一線，27日，進至春水、沙河店、駐馬店東西一線。31集團軍主力13軍、85軍等部隊節節抗擊，但是抵擋不住敵人的猛烈攻勢。尤其沿鐵路進軍的中路敵軍進展迅速，沿平漢路向北連陷遂平、西平要點，30日中路敵軍向東西兩翼分兵，17師團主力自西平向西迂迴與西路敵軍合圍舞陽，15師團部隊從遂平向東與東路敵軍夾擊上蔡。31日，舞陽、上蔡均告失守。接着，東線臨泉失守，西線葉縣告急。
自日軍發動進攻開始，5戰區在鄂西北和南陽地區的部隊就開始向敵人側後襲擊，68軍、59軍尾擊西路敵軍，55軍自唐河向泌陽攻擊，29軍向桐柏攻擊，威脅西路敵軍小林店一線的後方基地。東路，我駐皖西的84軍積極向西攻擊，克復正陽。至31日，日軍的後方補給交通線大部被切斷，腹背受敵，有陷入合圍的危險。2月1日，日軍被迫開始向南後撤，沿途遭到中國軍隊截擊。13軍順勢收復舞陽後向南陽方向追擊日軍第3師團，85軍參與追擊敵人第17師團向信陽南撤的部隊，至2月7日，各路日軍均撤回信陽附近。戰役前期所有失地全部收復，斃傷日軍9000餘人。毫無疑問，敵人的進攻失敗了。
是役，中國五戰區部隊相互配合，互相救應，在運動中殲敵，表現出了國軍中少見的人和精神。但是湯恩伯因爲自敵人進攻到最後反擊，他的部隊都是處於戰場的正面，認爲自己的功勞最大。加上一幫吹鼓手的鼓譟，湯司令簡直被吹噓成了叱吒風雲的古今名將一般。不久，湯恩伯就任一戰區副司令長官，他的部隊也脫離第五戰區序列改爲歸一戰區指揮，實際只歸湯本人指揮。自此開始直到1944年豫中大潰敗，一戰區形成了獨特的兩個司令部的狀況，一個是設在洛陽的一戰區長官部，另一個則是設在葉縣的湯恩伯司令部，由於湯仗着蔣介石的支持到處伸手，而衛立煌卻無心與他爭權，湯恩伯在一戰區的勢力膨脹極快。而1941年冬接任衛立煌職務的蔣鼎文可沒那麼好說話，將帥不和的矛盾越演越烈。這是後話。