蔣介石於六月二十六日向武漢方面發一通牒，並令王普、夏鬥寅兩軍溯江上駛，這並非他個人神經過敏，而實因武漢方面出師東征，進軍矛頭直指南京。
原來唐生智自河南迴師武漢後，以汪精衛爲首的武漢國民政府，即依照在鄭州會議中與馮玉祥成立的協議，壓迫員譚平山、蘇兆徵（1885—1929，1908年加入同盟會，後轉爲國民黨。1925年加入中國。1928年參加中國在莫斯科舉行的第六次全國代表大會，並被選舉爲中央政治局常委。1929年1月回國，2月在上海積勞成疾，因病逝世。）辭去農民部長與工人部長。六月二十八日，唐生智的李品仙部隊佔領武漢總工會，工人糾察隊悉被繳械。七月十五日，武漢政府舉行“分共”會議，這表明與國民黨的第一次合作完全分裂。
武漢政府在排共的同時，進行討蔣的軍事行動。以唐生智的第一方面軍沿江左，張發奎的第二方面軍沿江右，揮戈東指，雙管齊下。李宗仁部攻克臨城時，張發奎部已下達九江，唐生智則東抵黃梅。蔣介石見事急，遂調李宗仁的第七軍回師蕪湖，以鞏固南京後方。
不料李宗仁軍南撤，張宗昌敵軍即開始反攻。滕縣、臨城、韓莊、臺兒莊先後失守。蔣介石從南京電白崇禧雲：“如不克復臨城，則徐州失守，希將進攻臨沂軍力，移來支援第三路軍。”白崇禧於七月七日晚撤臨沂誘敵出城，而派第四十四軍和第十七師援津浦路，七月十一日到達，即與第十、第四十、第三十三各軍合克韓莊。十二日，第十軍攻復臨城，第四十軍連續收復臺兒莊、峰縣、棗莊。白崇禧以爲津浦路方面平安無事了，再出兵圍攻臨沂，不料這座城牆高而且厚，終於師老無功。七月二十一日，得蔣介石電，解圍南下，臨城二十日失守。七月二十五日，敵逼徐州，蔣介石率賀耀祖軍赴前線督師，想在徐州打一勝仗，以後再來和緩武漢方面。這個時候，主力部隊開拔淨盡，留在前方作戰的第十軍王天培部，作戰不力。終於在蔣介石的眼皮下失掉了徐州這一戰略要地。八月六日，蔣介石抱着懊喪沉重的心情從津浦前線回到南京，轉眼間孫傳芳、張宗昌聯鑣並進，江北盡非我有。
八月七日，蔣介石在南京總司令部（即後來的國民政府所在地）召李宗仁、何應欽、白崇禧舉行兩天的秘密會議，檢討當前的軍事形勢及和戰問題。回顧十天來正是多事之秋，軍政情況瞬息萬變，令人應接不暇，總結起來，有下面這幾樁大事：
針對武漢東征，馮玉祥於七月二十六日發出通電，建議寧漢雙方的國民黨中央委員，在開封舉行會議，消除雙方意見，解決黨內糾紛。當時馮氏顯然以調人自居，事實上他的軍事最大，在寧漢之間，頗有坐山觀虎鬥的味道。據傳他曾提出汪、蔣同時告退之說，此一傳聞，對白崇禧和李宗仁起了影響作用。
張發奎的第二方面軍，以二十四師葉挺爲前鋒，先佔領九江、湖口，掩護大軍集中。待各軍集中完畢，張發奎令葉挺率蔡廷鍇師及賀龍部佔領南昌。七月二十八日夜，汪精衛從武漢到九江，與張發奎、黃琪翔在廬山開軍事會議。決定仍打算分兩路由皖南、浙南向南京攻擊前進。但到八月一日，中國在周恩來、朱德等人領導下，發動了南昌起義，從此第二方面軍分裂爲三部分：葉挺、賀龍兩部組成的起義軍由江西經閩南轉入潮汕；黃琪翔的第四軍由贛州、韶關開回廣州，蔡廷鍇師則去福建跟他的老長官陳銘樞去了。這一路對南京的威脅遂告消除。
但是唐生智所部仍從鄂東向安徽挺進。何鍵的第三十五軍佔領了安慶，劉興（1887—1963，國民黨一級上將、愛國和平起義將領。1950年參加民革，並當選爲民革中央委員。1963年因病在長沙去逝。）的第三十六軍沿江東下，有向蕪湖進駐模樣。李宗仁爲避免衝突，將第七軍轉移到當塗。看來唐生智的東進是南京當前的主要危險。
李宗仁在會上介紹了上面情況，他認爲南京目前兩面受敵，必須接納馮煥章的調停，和緩武漢方面，俾能集中兵力來對付長江北岸的敵人。蔣介石對李宗仁的意見，沉思有頃，只說：“唔，唔，這個……這個……”最後從他的嘴裡非常困難地吐出這兩句話：“如果你們一定要和的話，那我就必須走開！”
白崇禧跟着說：“總司令能離開一下也好，等到我們渡過目前難關後，再請總司令回來行使職權。”蔣介石聽了勃然變色，他幾乎不相信自己的耳朵，白崇禧是他一手提拔的人，居然在困難時刻要他下野，此可忍，孰不可忍！
蔣介石把眼睛盯着何應欽，後者把頭低下來，不吭一聲。十分明顯，何應欽這幾個月來同白崇禧合作得很好，現在他們聯合起來對其個人施加壓力了。蔣至此驀地站起，說：“好！好！就這樣吧！”會議不歡而散。
次日，即八月八日，李宗仁、何應欽、白崇禧拿着一紙電稿來給蔣介石看，這是答覆馮玉祥於七月二十六日來電所提的調停建議，表示：“對武漢以前之容共，完全諒解。對今後黨政，只有整個之善後，並無兩派之爭執，以開第四次中央執行委員全體會議而促第三次全國代表大會之進行爲宜；對軍事主張李濟深坐鎮南中，唐生智肅清上游，蔣中正、馮玉祥、閻錫山直搗幽燕。”李宗仁、何應欽、白崇禧等主張此電由蔣介石領銜發出，但蔣氏竟簽名在他們之後，事後他倒打一耙，居然說：“在此電中，蔣總統名列第四，而由李宗仁領銜，是則南京此時權力的消長可以想見。”（董顯光：《蔣總統傳》，第一卷，第一O七頁。）
八月十一日，馮玉祥電覆李宗仁、胡漢民等，謂在國民黨執監會議開會前，可否舉行一預備會？如蒙同意，建議以安慶爲開會地點。十二日李宗仁等復馮玉祥十一日電，贊成安慶會議之舉。請馮決定會期並屆時蒞會。蔣介石也簽名此電，但即日離京去上海，實行下野。行前將第十軍軍長王天培槍決，說是他應對徐州失守負責。同時發表了下野通電，申明：一、他的經過；二、希望寧漢合作；三、併力北伐，徹底清黨。
蔣介石到上海後，寓上海市長，他的拜把兄弟黃郛家中，對軍事、政治作了一些部署，隨即遣返溪口老家，稍停即東渡日本去了。
胡漢民、吳稚暉對蔣介石此次下野，認爲馮玉祥應負主要責任，所以他們到上海後，曾給馮玉祥一電，聲明取消安慶之行，各爲故里之遊。並對馮說：“一柱擎天，唯有公焉！”語意冷嘲熱諷，其對馮不滿殊甚。
蔣介石卻不是這樣，他指責李宗仁、白崇禧對他施加壓力，所以不得不下野，《蔣傳》對此作了詳細的描述：
其時，廣西將領鹹認與漢口言和，始能解南京被包圍之險。由於蔣總統被視爲和議之障礙，他的舊日同志遂不免對他施壓力。在此環境之中，蔣總統雅不願保持其權位。於是在八月十二日，他辭去總司令之職，帶同衛士二百人，前往上海。（董顯光：《蔣總統傳》，第一卷，第一O七頁。）