蔣介石在武漢行營裡坐臥不寧，半年多的抗戰，中國軍隊的弱點已暴露無疑。事實證明，中國軍隊面臨的嚴重問題不在武器裝備的落後，也不缺乏抗戰的熱情和決心，而是軍紀渙散，令不行禁不止，各地方將領各行其事，根本不把中央的命令放在眼裡。
凇滬會戰和南京保衛戰的失敗，還有日軍在南京幹下的慘絕人寰的大屠殺，無時無刻的震顫着他的心靈，國軍的慘敗讓他感到痛心疾首，顏面盡失。如今，華北戰場的混亂局面更使他無地自容。這些慘敗讓他意識到軍紀不整、各地將領保存實力的私心不除，抗戰將抗成全局崩潰。
蔣介石的內心翻江倒海，他深感這支數百萬人的國民革命軍實在是太複雜了。他在屋子裡不停的來回走着，眉宇間暗藏着可怕的殺機，心裡發狠道：“這可問題，如不盡早根除，在日軍機械化部隊的衝擊下，中國軍隊又將是潰不成軍，中國也就必敗無疑了。”面對各地將領不戰而逃的混亂場面，蔣介石正愁找不到下手的機會，恰巧這時韓復榘自己送上門來，他當下咬牙切齒的在心裡詛咒道：“韓復榘呀韓復榘，今天我必須拿你的人頭來殺一儆百了。”
蔣介石在漢口召集何應欽、白崇禧、陳誠等人舉行會議，大家知道老蔣與韓復榘素有舊怨，又對韓復榘的不戰而退，致使山東戰局陷於危險境地而感到深惡痛絕，明白老蔣這次是決心殺雞儆猴了，便在會議開始後紛紛指責韓復榘，齊稱若讓韓復榘任意妄行而不加以制裁，則民心軍心必將受到嚴重的影響，他們一致主張嚴懲韓復榘以儆效尤。衆位將軍們的意見與蔣介石不謀而合，於是，一張精心策劃的大網悄悄的張開了，這次，蔣介石要與韓復榘老帳新帳一起算。
不久之後，李宗仁在徐州召開第5戰區的軍事會議，身爲第5戰區副司令長官的韓復榘並沒有參加會議，而是命令山東教育廳長何思源代他去參加會議。對此，第5戰區司令長官李宗仁感到了極其的不滿意，他建議蔣介石親自出面收拾韓復榘。緊接着，蔣介石親自出馬，在河南開封召集1、5戰區的高級軍官開會。他親自給韓復榘打電話說道：“我決定召集高級軍官在開封開個會，請向方兄務必準時參加。”
韓復榘有點猶豫了，因爲山東是他的地盤，在山東境內老蔣拿他沒辦法，但是一旦到了開封可就由不得他了。因此，韓復榘的心腹部下們都勸他稱病不去參加會議。正在他猶豫不決的時候，有人放出風來說：魯豫、蘇皖要劃爲兩個新戰區，老蔣有意讓韓復榘出任魯豫戰區的司令長官。這個消息讓韓復榘感到了動心，他考慮再三，決定打電話給第5戰區司令長官李宗仁，從他的嘴裡探聽一下虛實。在得到李宗仁的確切答覆後，韓復榘樂呵呵的坐上了開往開封的專列。
到達開封后，韓復榘便帶着他的衛隊前往會場，在蔣介石行營的門口被憲兵們攔住了，原來行營門前貼着一張通知：“凡參加會議的將領請在此下車。”韓復榘的車隊只好停在行營門前的空地上，然後步行進入會場。進入會場後，韓復榘發現到會的高級軍官足有四五百人。坐在最前列的都是將軍級的將領，除了鄧錫侯、孫震、龐炳勳三人身穿灰色棉布軍服，打着灰色的棉布綁腿，戴着灰色棉布軍帽之外，其餘的人都是黃呢子軍服。韓復榘是高級將領中最後一個進入會場的，他同樣穿了一身灰色的棉布軍服，他顯得異常的活躍，同那些高級將領們一一握手問好，爾後堂而皇之的與龐炳勳等三人坐在了一起。這時，主席臺右側的小門打開了，老蔣在衛士的簇擁下，微笑着走進了會場。
今天老蔣穿了一身黃呢子軍服，手上戴着雪白的手套。一箇中將級的侍從官喊了一聲“立正”，並報告了到會的人數，蔣介石脫下帽子，示意大家坐下，緊接着他摘下了白手套，笑着說道：“好、好，我和衆位將軍已經很久沒有見面了。今天在我講話之前先來點點名，與大家見見面相互認識一下。”說完，他就拿起了花名冊，從第1戰區開始點起。爲了表示對那些高級將領表示客氣和尊重，凡是戰區司令長官、副司令長官和集團軍的司令都不點呼，對集團軍的副司令，也只呼其姓和官職而不呼其名。軍團張、軍長、師長則一一點呼。
等點名結束後，蔣介石掏出一本藍色的小冊子，他用手高舉着說道：“你們有誰帶着這個--《黨員守則》？帶着的請站起來，把本子舉起來讓我看看！”結果全場只有8個人站了起來，手裡高舉着《黨員守則》。隨後，蔣介石又掏出一本紅色的小冊子，高聲詢問道：“有誰帶着這個黨證的，站起來讓我看看。”結果這回只有1個人站了起來，蔣介石再次問了一便，結果還是隻有那一個人站着。他揮手讓站起來的人都坐下了，臉上顯出了很不高興的樣子，蔣介石清了清嗓子要開始講話了。其實，所謂的開封軍事會議，實際上是無會議，只是蔣介石一個人的訓話而已，他這是醉翁之意不在酒，目的是想借機懲辦韓復榘。於是，蔣介石開始借題發揮，侃侃而談。
蔣介石一面講着，一面頻頻用手敲擊着桌子。坐在前排的高級將領們，把腦袋低垂着不敢面對蔣介石的目光，一個個鎖眉苦臉，面有愧色。蔣介石接着往下講道：“目前我們雖然在軍事上遭受到了重大的挫折，但國際形勢對我們還是有利的。我們是得道多助，而敵人卻是失道寡助。我們必將戰勝敵人，贏得抗戰的最終勝利。只要你們這些高級將領能夠服從我的命令，我就有能力指揮着你們戰勝敵人。只要你們是爲了抗戰殺敵，無論你們遭受了多大的損失，我都會負責爲你們補充。可是，我們有些高級將領，把國家的軍隊視做自己升官發財的本錢，在抗擊倭寇的戰鬥中，一味的保存實力，只顧擁兵自重，妄顧國家和民族的存亡，不但拒不服從政府的命令，反而我行我素的行動，哪裡安全就往哪裡撤，這還是革命軍人的做派嗎？這樣的人還能稱爲軍人嗎？試問國家都沒有了，你保存實力又有何用？況且到了國家覆滅的時候，敵人還會讓你來保存實力嗎？你的這些做法，難道就不怕天下人唾罵嗎？難道就不怕國法軍規的制裁嗎？”
臺下的韓復榘臉上一片慘白，他到現在才終於明白過來，老蔣今天是要殺一儆百了。就在這時，蔣介石突然把話題轉到山東的戰事上，對韓復榘的不戰而退加以斥責。最後命令會場上的憲兵將韓復榘收押，交由軍委會軍法處審判。並一再警告全黨全軍，任何畏懼避戰妄圖保存實力者都將與韓復榘同樣的下場。
開封會議後，韓復榘被軍委會軍法處判爲了死刑，幾天之後在武漢執行了槍決。就這樣，這個獨霸山東長達8年之久的大軍閥，終於被蔣介石以抗戰不力的理由給除掉了。韓復榘之死，大快國人之心。民間報紙紛紛刊載這一消息，在報上紛紛譴責韓復榘妄顧國家與民族的存亡，在這國家與民族生死危亡之際，手握重兵，但確不抗擊日寇，短短數週之內，便將富饒的山東拱手奉送給了日本人，實在是民族的罪人，國家的敗類也。
在逮捕槍斃韓復榘的同時，蔣介石還公佈了43名作戰不力的軍官名單，其中包括晉綏軍第61軍軍長李服鷹和第5集團軍司令香翰屏。蔣介石以韓復榘爲例通電全國，警告那些地方將領們。今後如再有不聽從中央命令者，無故放棄陣地倉皇撤退者，法無二例，決不姑息。蔣介石連斃數名高級將領之後，在國民黨的部隊中引起了極大的震動，令整個國軍抗戰陣營中精神爲之一振。日後的臺兒莊大捷正是蔣介石整頓軍紀的結果。不少地方部隊的將領包括中央軍的將領都死命抗敵，不能不說與開封整頓軍紀有關係。
第3集團軍在得知蔣介石殺掉了韓復榘之後，並沒有才取什麼過激的舉動，相反他們卻積極的修築工事，準備與孤軍深入的日軍第10師團血戰一場，以洗刷第3集團軍不抵抗的罪名。第3集團軍代司令孫桐萱向全國發表通電，表示第3集團軍將與日寇血戰到最後一兵一卒，誓與陣地共存亡。