２５日下午，胡宗南又接到蔣介石要求參戰各軍務必於本晚全線總攻，於明晨殲滅開封、蘭封間敵軍的指示。他更是心急如火，擬增厚兵力再攻，但又無兵可調。兩日來，陳留口、大、小王莊、青龍鋪、樑寨一線戰鬥緊張，第一師一個旅留在開封附近，另一旅已奉程潛之命協同第三十九軍作戰；第七十八師之一部又奉命配合第六十四軍攻擊羅王車站，也已投入戰鬥，第三十六師第一０八旅正在鐵路以南與日軍流竄部隊周旋。他只得命令原班人馬暫時休息，於２６日凌晨再次攻擊曲興集。
但是，曲興集之敵已陸續增加至三四千人，使得第七十八、第三十六兩師的攻擊更難有所進展。
至２８日凌晨，胡宗南共命所部向曲興集之敵發動了４次進攻，均告失敗。
然而此時，第七十一軍已收復蘭封，第六十四軍已攻克羅王車站及羅王寨，陳留口、蘭封口等地之敵也被其他部隊驅逐。土肥原師團主力已退據三義寨、曲興集附近地區。程潛將戰報通報各軍，胡宗南不免聞之汗顏。
２９日凌晨，胡宗南所部向曲興集發動了第５次攻擊，但仍未能成功。這時，歸德方面的戰況已出現變化，程潛已下令調整豫東戰場的戰略部署，抽調五師兵力佔領淮陽、太康、杞縣等地，準備迎擊自徐州西犯之敵。並命令胡宗南對曲興集之敵採取守勢，待敵竄動，再全力將其殲滅。
但是，胡宗南覺得自己率部出陝入豫，征程千里，卻了無戰功，一來和參戰諸將領相比不免相形見絀，二來在“校長”面前也不好交代。而他的第十七軍團也好像白來河南一趟。於是，他決心置程潛命令於不顧，於３１日拂曉向曲興集之敵發動總攻，以期最後打一個漂亮仗。
胡宗南分析５次攻擊未能奏效的原因是炮兵太少，且缺乏彈藥，不能有力地摧毀敵人的防守工事，從而造成步兵的重大傷亡。於是，他親自向長官部催請彈藥，並命令新配屬於軍團的第二００師戰車營及獨立山炮三營於３０日晚８時到達前線陣地。他則率軍團部於３１日拂曉前進駐曲興集附近的杜良寨，親自指揮戰鬥。
３０日晚，第七十八師、第三十六師、第一０九師各一部，按照胡宗南的命令到達指定位置。
但是獨立山炮營夜半方至，由開封兵站支部補給的１５００發山、野炮彈至午夜也未運到，邱清泉的戰車營更是遲遲不露其面。胡宗南以電話聯繫，邱清泉答覆部隊需於３１日上午才能趕到。胡宗南將炮兵部隊與戰車營看作是攻擊獲得成功的保證，炮彈運不來，戰車營不到，他只得命令各部於原位置待命。
３１日上午１０時，邱清泉率戰車營趕到，由開封兵站支部補給的１５００發山、野炮彈也運抵炮兵陣地。胡宗南便下令於當日午後４時發動總攻。
其他參戰各軍捷報頻傳，而曲興集卻屢攻不克，胡宗南所部各師、旅、團長也和軍團長一樣，感到臉上無光，這次總攻，大家都抱着全力以赴，不拿下敵據點誓不罷休的決心。各部士兵休息了一晝夜，體力有所恢復，而且得知軍團總司令部調來炮兵及戰車部隊支援，無不精神振奮，接到命令後，大家都摩拳擦掌，積極做好戰鬥準備，等待總攻時刻到來。
各部隊士氣高昂，曲興集勢在必克。
但是午後２時，胡宗南突然接到程潛命令：因戰略關係，我豫東魯西作戰各軍即日向豫西轉移，第十七軍團各部停止攻擊曲興集之敵，即行準備向豫西轉進。
胡宗南接到命令，只得下令各部做好西撤準備。
即將開始的總攻也因此而停止。
各部官兵爽然若失，胡宗南打一個勝仗的計劃落空，更是大失所望。
不過，第十七軍團在豫東作戰雖然未能一逞軍威，傷亡卻很大。該軍團所部在整個戰役中戰死１３３０餘人，傷１９８０餘人，就如此小規模戰鬥而言，也算是盡到了最大努力。
當天下午，胡宗南正與參謀長等人研究撤退方案之際，６架敵機突然飛臨軍團司令部所在村落上空投彈轟炸，村內數十間房屋被炸燬，軍民各傷亡１０餘人，其中一顆炸彈恰好落在軍團司令都院內，房屋被炸塌一角，少校參謀吳（火/介）被炸死，出師未捷的第十七軍團團長胡宗南也險些罹難。
俞濟時第七十四軍於５月１９日奉命由歸德西進，在蘭封、民權之間連克數寨之後，於２３日接到薛嶽命令：第２６師、第１０６師統歸俞濟時指揮，於２４日攻擊三義寨。
三義寨是土肥原師團的重要據點之一。村寨爲長約５華里的土寨牆所環繞，寨牆堅厚，高約丈餘，東、南、西三面開有寨門。寨牆外，掘有丈餘深的護寨溝，溝中有水。東北角寨牆上，有磚砌碉堡一座。東南角寨牆外有茅舍數間。寨東北有土堤兩道，一道經寨外小村落柴樓向東北延伸，一道經河渠向東南綿延。河渠距寨約４００公尺，渠中水流不斷。
三義寨四周地形雖然開闊，但其間尚有數處樹叢可資隱蔽。寨外圍工事皆爲沙土構築，易被炮火摧毀。於柴樓、寶王寺、河渠一帶堤埂縱橫。只是東面的國防工事，已被日軍佔領。
三義寨內守軍初爲１０００餘人，後增至３０００餘人，並配有坦克１０餘輛、炮１０餘門。土肥原開始在寨內坐陣指揮，後因中國軍隊攻寨甚急，他便率幕僚撤至河北貫臺指揮師團作戰。由於三義寨距黃河頗近，而蘭封口河段與柳園口一樣，河牀狹窄，可以架設浮橋，輔以汽船運送軍火給養及增援部隊，因此土肥原以三義寨作爲師團各部的支點，在寨周圍村莊部署相當兵力，以對主據點形成拱衛之勢。而蘭封口附近日軍也可以與寨中日軍南北呼應，往來增援。這給第七十四軍及其他部隊的攻堅戰帶來極大的困難。
２３日晚，俞濟時在距三義寨東面１０餘華里的一個村莊裡，召集三個師的師長開會，劃定了三個師的攻擊路線，第２６師從二壩寨向西攻克敵外圍據點後，由北面向三義寨攻擊；第１０６師從薛樓攻克敵外圍據點後，從南面土堤向三義寨攻擊；俞濟時率第２６師協助二師掃清據點後，從東面向三義寨攻擊。新編第三十五師與第一四一師之一旅擔任外圍警戒，以防蘭封之敵西竄。各部於午夜前到達指定位置，攻擊時間定於２５日凌晨４時。
俞濟時，字良楨，號濟士，１９０２年生，浙江省奉化縣人，陸軍中將。俞濟時１８歲時，在奉化一家米店當學徒，一次，他擔菜送飯，不慎摔倒，怕老闆責打，離家出走，投奔廣東族叔、時任黃埔軍校軍需處長的俞飛鵬。經俞飛鵬保薦，俞濟時考入黃埔軍校第一期，由於受訓期間刻苦鑽研，頗受蔣介石青睞，畢業後即留在蔣介石身邊擔任侍衛，於１９３０年升任警衛第一師師長。１９３２年改任第五軍第八十八師師長。俞濟時剛上任便奉命赴上海蔘加“一二八”抗戰，在戰鬥中，俞濟時親率部隊對敵發動反攻，腹部受重傷，後經德國租界醫院治癒。
１９３５年，俞濟時被任命爲皖、浙、贛“剿匪”指揮官，率部開赴安徽太平一帶，進剿以邢維固、方誌敏、粟裕等領導的抗日先遣隊。
抗日戰爭爆發後，俞濟時升任第七十四軍軍長，下轄第五十一、第五十八兩師。奉命由漢口開往上海，參加淞滬抗戰。後又參加南京保衛戰。第七十四軍在兩大戰役中損失慘重。南京淪陷後，部隊集中在湖北一帶整訓。
在這次蘭封會戰中，蔣介石和薛嶽都把俞濟時第七十四軍，以及配屬於其的２６師當做克敵制勝的主力軍之一，故命該軍爲克復三義寨的主攻部隊。
圍攻三義寨的戰鬥，打得艱難而又慘烈。
三師攻擊部隊從２５日起，經過三天的浴血奮戰，方攻克部分外圍據點。蘭封口與三義寨內日軍，不斷伺機反攻，給中國軍隊造成很大的傷亡。
由於日軍外圍防線逐漸受到壓迫，兵力逐漸向三義寨周圍集中，所以越靠近三義寨，其據點越難攻克。柴樓、河渠兩處後來成爲攻守兩軍爭奪的焦點。經過敵機反覆投彈轟炸之後，經過不斷的炮擊和坦克碾壓之後，經過多次殘酷的爭奪戰之後，小村幾乎被夷爲平地，斷壁殘垣之下，到處躺着中日士兵的屍體。在柴樓爭奪戰中，敵出動坦克數輛，掩護步兵進行反攻，第２６師攻擊部隊犧牲慘重。
後俞濟時調來邱清泉戰車營之一連助戰，中國軍隊陣前出現坦克，對於日軍來說，其罕見程度僅次於空中出現中國飛機。面對中國坦克的炮擊和一往無前的衝鋒，敵坦克退縮了。敵坦克一退，步兵陣腳便開始混亂。
１０６師第二０三團團長紀鴻儒見狀，即率部向敵兵衝殺，試圖將敵消滅於陣前，但未能成功。於慘烈的白刃戰中，紀鴻儒飲彈陣亡，兩名營長也英勇犧牲。
２７日，蘭封口、三義寨日軍又向第２６師已克據點楊圪壋發動反攻，敵先出動飛機狂炸，繼而又升起繫留汽球，指揮炮兵猛轟，然後出動步、騎兵反撲。第２６師副師長率第一一九團往返衝殺，與敵肉搏，陣地失而復得４次，血戰至下午，始將敵徹底擊退。第一一九團官兵也傷亡大半。
第２６師攻擊部隊進至三義寨附近時，也遭日軍反攻，與敵成對峙狀態。
此時，蘭封已經收復，薛嶽即命新編第三十五師、第六十一師、第八十七師各派一部協助第七十四軍掃清三義寨外圍陣地，並命桂永清軍第四十六師負責接守已克據點，另以一部從南面向三義寨攻擊。
三義寨已完全陷於中國軍隊的包圍之中。
２８日上午，俞濟時來到第２６師陣地後方，與師長高飛一道挑選精壯士兵５００名，組成奮勇隊，攜帶輕便武器，作爲先鋒，向寨東南角攻擊，師之主力則指向寨東門。
中午時分，天朗氣清，陽光眩目，頭天傍晚一場大雨，洗盡了戰場上的硝煙飛塵。三義寨的土寨牆被炮火炸塌的地方，已被日軍連夜修好。太陽旗仍在牆頭迎風飄揚。距三義寨東南一個小村裡，５００名奮勇隊員正整裝待發。
１時３０分，第七十四軍炮兵開始向三義寨轟擊。平靜了半日的原野上，又震盪着隆隆的炮聲。三義寨內濃煙四起，牆頭那面太陽旗也在一團硝煙騰起之後，不見了。隨後，５００名奮勇隊員在濃密火力掩護下，向三義寨衝去。十餘名隊員懷抱輕機槍，一路掃射，寨外的日軍警戒部隊在中國士兵勇猛的衝鋒下，倉惶向北逃竄，企圖從東門退入寨內，師長高飛即命主力部隊向東門發動攻擊。
但是，當奮勇隊衝到護寨溝邊時，前進遇到了困難，護寨溝寬１丈５尺左右，溝中水深五六尺，溝壁陡峭，難以攀登，一些奮勇隊員跳下壕溝，鳧至對面，但好不容易爬上溝沿，便被寨牆上日軍打死。大部分隊員被阻於溝外麥地中，在敵人的火網下進退不得。
東面攻擊部隊在擊斃了數十名企圖逃進寨內的日軍之後，衝至距寨牆二百餘米處，也被日軍火力所阻，寨內之敵憑藉牆頭碉堡和既設工事頑強抵抗，輕重機槍構成濃密彈幕，使中國士兵難以前進一步。
俞濟時在指揮所附近一所房頂上用望遠鏡觀察前線戰況，見攻擊部隊被阻於敵火力網內，進退不得，迅速從房上下來，衝進指揮所，以電話命令高飛：“把迫擊炮運上去，把敵人的牆頭工事、碉堡都給我敲掉聽見了嗎？對，用迫擊炮狠狠地敲”
高飛當即調集十餘門迫擊炮，命士兵攜至距寨四百米處，向寨牆上的工事碉堡轟擊。但這一措施並未達到預期效果。敵立即以步兵小炮還擊，數門迫擊炮被敵火摧毀，十餘名士兵被炸死炸傷。餘皆就地疏散隱蔽。
高飛見敵人炮火猛烈，以迫擊炮摧毀敵寨頭工事碉堡已不可能，即命以輕重火力掩護攻擊部隊撤退。
這次攻擊，以傷亡數百人而告失敗。
當天晚上，俞濟時接到各師報告，第六十一師已佔領外圍據點管寨，第四十六師攻至寨南面，刻與敵對峙中。新編第三十五師已接替蘭封城防及附近國防工事..........
這些消息使俞濟時感到振奮，他綜合上述情報分析，三義寨內敵軍已陷入孤立無援狀態，攻堅戰已勝利在望。他與參謀長及軍部幕僚會商之後，向所部下達瞭如下命令：
一、敵情及友軍位置；
二、軍決心以主力於明日拂曉前向敵兩翼包圍，一舉將三義寨之敵擊破於黃河南岸，並將殘敵捕捉而殲滅之。主攻方向在右翼楊圪壋方面；
三、第２６師應即確實鞏固佔領線，以一部向蘭封口之敵攻擊，主力攻擊三義寨北面之敵，
四、第２６師應於現在陣線向三義寨東南、東北兩方面之敵猛攻；
五、攻擊開始時間爲明日午前４時３０分。
拂曉的攻擊，一開始是比較順利的。攻擊部隊在炮火掩護下，迅速向前推進。但是當部隊攻到距寨僅有百餘米的地方，前進便困難了，日軍不僅憑藉牆頭工事居高臨下掃射，隱藏於寨外草房內和堤埂後的敵人也突然開始射擊。俞軍攻擊部隊遭到幾方的火力封鎖，變得寸步難行，隨後，寨內日軍又以擲彈筒向匍匐在開闊地上的中國官兵拋射。
密集的機槍聲已分不出輕重緩急，炸彈爆炸聲響成一片。俞軍攻擊部隊不斷有人犧牲。英勇的中國官兵利用敵照明彈發射的間歇，匍匐前進，一寸寸接近護城溝。但是由於士兵們攜帶着爬梯與跳板，行動很不靈便。
天明時分，攻擊部隊終於運動至距寨牆數十公尺處，正待發起進攻，四架敵機突然飛來，敵機在灰暗的天空中結隊盤旋一圈，隨即分開，尋找攻擊目標。傾刻間，一串串重磅炸彈在寨牆外的中國士兵之間爆炸，猖獗的敵機欺負中國軍隊沒有防空炮火，不時做超低空飛行，向匍匐在田野裡的中國軍隊掃射。震耳欲聾的呼嘯聲和咯咯的機槍聲響徹三義寨上空。
後方陣地上，一名營長見攻擊眼看就要成功，竟遭敵機狂轟濫炸，抱起一挺輕機槍，向鷂子般低飛的敵機憤怒地射擊。敵機折而向陣地俯衝掃射，數名士兵中彈犧牲，這位營長也身負重傷。
三義寨內日軍趁機以輕重機槍向攻至寨前的中國軍隊猛烈掃射，並以擲彈筒頻頻拋射；日軍炮兵則向第２６師陣地全線轟擊。攻擊部隊爲減少傷亡，不得不互相掩護，撤回原地。
第２６師攻擊蘭封口部隊也遭到日軍的頑強抵抗。中午時分，日軍出動步騎炮聯合兵種８００餘人，在８輛坦克掩護下，向第２６師防禦之楊圪壋、樑圪壋陣地反攻。V