日軍爲了實施打通大陸交通線的《1號作戰計劃》，華北方面軍司令官岡村寧次指揮14.8萬日軍、坦克裝甲車691輛(內坦克225輛) ，向中國第一戰區蔣鼎文、湯恩伯部8個集團軍約30萬軍隊發動了進攻。
4月17日夜，中牟方面日軍第37師團及獨立混成第7旅團首先從三王、中牟、傅莊強渡新黃河，守軍暫27師奮起應戰。
戰鬥至18日凌晨5時許，正對中牟的第2團陣地被突破，暫27師被迫南撤。此時日混成第7旅團由傅莊渡河，佔領界馬，並沿新黃河西岸向泛東挺進軍柴橋陣地進攻，第37師團則分路向鄭州、新鄭、洧川、尉氏進攻。擔任鄭州挺進隊的日軍第22聯隊先遣第1大隊(欠第4中隊)，於19日拂曉即以急行軍秘密進至鄭州車站，並以偷襲佔領了鄭州北門附近城牆一角。
日軍第37師團主力及混成第7旅團亦於19日晚進至尉氏以北。守軍暫15軍遂突圍南退，至薛店集結整頓。鐵路橋方面日軍第12軍主力在中牟方面日軍開始進攻後，乘守軍注意力集中於中牟方面之機，於18日夜利用夜色掩護，逐次經黃河鐵橋潛至南岸邙山頭橋頭堡陣地，接近攻擊準備位置。爲解除南進時的側背威脅，進攻開始前一日(1944年4月19日)晨，第110師團第163聯隊的第2大隊在猛烈炮火掩護下，向邙山頭西側高地上的漢王城據點發動猛攻。
守軍預11師1個營奮起抗擊，激戰至中午前後，陣地全被摧毀，營長王鑫昌以下300餘人全部英勇犧牲。
守軍第85軍當即令預11師控置的預備隊第33團向漢王城反擊，同時令軍工兵營增援摩旗嶺，令特務營增援牛口峪，以加強防守力量。但由於日軍後續部隊不斷增加，反擊部隊傷亡極重，團長餘子培身負重傷，反擊失利，摩旗嶺高地亦於當夜失守，守軍第110師撤向樂陽。
摩旗嶺高地失守後，日軍邙山頭右側已無顧慮，守軍炮兵失去設於該高地的觀測所，炮火威力無從發揮，對戰局頗有影響。20日，守軍第85軍奉令向塔山、萬山地區撤退。於是日軍第62師團沿平漢路及其西側地區直趨鄭州，第110師團則向密縣突進，戰車第3師團及獨立步兵第9旅團等均於20日拂曉進至黃河南岸。
至22日，鄭州、新鄭、尉氏、洧川、滎陽、廣武、汜水、塔山、萬山等地先後被日軍佔領。日軍第110師團及第37師團第225聯隊分由北、東兩面向密縣進攻，於24日佔領密縣，並繼續向登封推進。
25日，第110師團攻佔虎牢關，守軍第96軍一部退至鞏縣。第12軍主力在新鄭以南地區集結，作下一步進攻的準備。
4月26日，日軍第12軍在新鄭戰鬥指揮所召集師團長、旅團長開會，討論進攻許昌、郾城及向左迂迴的問題。
27日晚，正式下達了作戰命令，令第62師團進出至許昌西南潁橋鎮一帶，阻截守軍向西南山區撤退和由西南方向向許昌增援的通路，爾後準備向禹縣進攻;令第37師團從北、西、南3個方向攻擊許昌城，爾後以主力向舞陽進攻，以1個聯隊歸第27師團指揮，向郾城方向追擊，佔領郾城後，留1個大隊守備，主力歸建，令第27師團在攻佔許昌後指揮第37師團的1個聯隊攻佔郾城，與第11軍派出北上的部隊會合後轉歸第11軍指揮;令獨立混成第7旅團由東面攻城，攻佔許昌後留一部兵力守備許昌，主力準備向禹縣前進;令騎兵第4旅團在許昌戰鬥後進出至北舞渡附近，準備沿舊縣、寶丰向臨汝前進;令戰車第3師團以2箇中隊配屬第37師團攻城，主力在攻佔許昌後準備向臨汝推進。
預定30日晨開始攻擊。當日軍部署進攻許昌時，第一戰區組織反擊，令湯恩伯"以第29軍全部以第13軍兩師擊滅密縣之敵"。湯恩伯令第13軍配屬暫16師由禹縣北向密縣實施反擊。這次反擊雖然使日軍第110師團暫時轉爲守勢，但對日軍第12軍主力圍攻許昌並未產生影響。
1944年4月29日夜，日軍第62師團首先行動，迅速攻佔第20師防守之潁河兩岸陣地，掩護其他部隊進入攻擊出發地位。1944年4月30日拂曉，在炮兵、航空兵火力支援下開始攻擊。守軍新29師依託工事頑強抗擊，日軍傷亡甚衆。激戰至17時30分左右，守軍傷亡慘重，日第37師團第225聯隊及戰車第3師團第13聯隊分別由許昌城西和城南突入城內。
經巷戰後，新29師於當夜在城東北角突圍，突圍過程中師長呂公良陣亡，殘部逐次向葉縣方向轉移。
“華北派遣軍”認爲“當時在重慶軍當中，第八戰區的第1軍和第一戰區的第13軍是各該戰區中的精銳核心兵團。重慶軍的特點之一，是核心兵團一旦被打垮，全軍就要支離破碎，因此打垮第13軍，就等於打垮湯軍”。當得知湯恩伯的第13軍正在登封地區反擊密縣日軍第110師團的情況後，認爲“圍殲第13軍的良機即將到來”，“方面軍參謀部於是不斷以電話、電報指示第12軍'趕快咬住第13軍，予以圍殲”。
日軍第12軍根據方面軍的指示，不待許昌攻下，就於1944年4月30日10時30分下達了攻佔許昌後向登封轉進、尋殲第13軍的命令。攻佔許昌後，第27師團及第37師團第227聯隊(配屬1個步兵大隊、1個山炮中隊)於1944年5月1日夜由許昌南進，5月5日下午攻佔漯河和郾城。守軍第89軍新1師向東撤走。
武漢地區日軍第11軍根據“派遣軍總司令部”的命令，在日軍佔領許昌時，派獨立步兵第11旅團(7個大隊)於5月1日夜由信陽北上，2日至明港，3日拂曉至新安店。由於防守確山一帶的第五戰區第68軍部隊不戰而走，日軍第11旅團當日佔領確山。
日軍第27師團先頭部隊僅受守軍第29師的輕微抵抗，即於5月7日佔領遂平，9日進至確山，與第11旅團會合。平漢路南段被日軍打通。
當日軍第12軍南進時，駐於上海地區的第13軍奉“派遣軍總司令部”之命，派第65師團師團長率其步兵第71旅團和第64師團的步兵第69旅團，於4月25日開始從安徽鳳台、正陽關向潁上、阜陽進攻，以牽制位於平漢路以東的第15、第19集團軍，策應第12軍的作戰。該師團的師團長惟恐過早深入而被殲，27日佔潁上後即緩慢前進，至5月6日，9天時間僅前進約30公里。8日，日軍27師團因已佔領遂平，京漢路又基本打通，故返回原防。