一、出任黃埔軍校校長
1．籌建黃埔軍校
1923年7月，孫中山在廣州同共產國際的代表馬林多次商談後，決定派出代表團到蘇聯訪問考察，蔣介石得此消息後便主動寫信要求擔此重任。
孫中山得知蔣介石有此意圖之後，考慮到他曾經學過一些俄文，另外，在國內蔣的處境也的確非常尷尬，遂於8月5日寫信令蔣介石到上海與馬林及汪精衛、張繼等人商談組織“孫逸仙博士代表團”到蘇聯考察。
蔣介石率領“孫逸仙博士代表團”於8月16日從上海啓程，8月25日，經滿洲里入蘇境，9月2日，到達莫斯科。在歷時3個多月的考察期間，蔣介石除了列寧沒見到外，分別與齊契林、魯祖塔克、加米涅夫、加裡寧、托洛茨基等蘇共高級領導人進行了會晤和商談。在蘇俄，蔣介石活動頻繁，參觀軍隊、學校、工廠、農村等，此外，博覽會、博物館、蘇俄的先進武器裝置，蔣都有幸一飽眼福。通過頻繁的、多方面的考察，蔣介石眼界開闊了，尤其是對蘇俄的黨治建設比較讚賞。
11月25日，蔣介石參加了共產國際執行委員會的會議，並在會上致詞。11月28日，他又參加了共產國際執委會主席團專門討論中國國共合作問題的會議。會上通過了《關於中國民族解放運動和國民黨問題的決議》，並將其交由代表團帶回中國。這個決議就如何在中國革命的新形勢下重新解釋三民主義，具體明確地闡述了看法。決議中的有關內容，成了即將召開的中國國民黨第一次代表大會宣言的基礎，對孫中山提出新三民主義起了促進作用。
蔣介石等一行人於11月29日從莫斯科啓程回國，12月15日到達上海。按常理，蔣回國之後，應該立刻拜見孫中山，詳細彙報在蘇俄的考察情況。但蔣介石回國後的反應卻讓人費解，不似出訪前那麼熱情。他僅僅向孫中山逞送了一份《遊俄報告書》，便徑自回老家奉化去了。這確實令人費解。
蔣介石對俄國革命，在出訪之前，是極不熟悉，所有的印象也只是由於道聽途說產生的一點懵懵懂懂的好感，擺脫不了表面的“以俄爲師”的流行思想的約束。他對蘇俄的看法，隨時都會因爲接觸到了真實的蘇俄社會而有所改變。
蔣在訪蘇過程中，對蘇聯實行的無產階級專政以及對富農等敵對勢力的鎮壓政策產生了強烈的反感。此外，在一些重要的具體問題上，中方代表與蘇俄領導人之間也存在嚴重分歧。當時孫中山希望在蒙古南部建立一支軍事力量，並由該處進攻北洋軍閥，控制直隸和北京。這一建議遭到同樣也想染指蒙古地區的蘇俄政權的反對。
蘇俄否定了以蔣爲首的代表團的根本性要求，並建議國民黨應集中力量做政治工作，按照需要把軍事活動減少到最低限度。這使得蔣介石對蘇俄的用意產生了懷疑，蔣認爲“蘇維埃政治制度乃是和恐怖的組織”，與“中國國民黨的三民主義的政治制度是根本不相容的。”諸多情緒對立、立場矛盾最終導致了蔣介石對此次出訪考察的低調處理和消極反應。所以回國後僅呈上一《遊俄報告書》，隨即返鄉，祭奠母墓去了。
1924年1月20日至30日，孫中山在廣州主持召開國民黨第一次全國代表大會，大會期間決定把設立陸軍軍官學校一案付諸實施。1924年1月24日，孫中山決定將籌備中的學校定名爲“陸軍軍官學校”，設立籌備委員會，任命蔣介石爲委員長，王柏齡、鄧演達等7人爲委員。28日，確定以原黃埔水師學堂和陸軍學校的舊址爲新校址。
創校之初，面臨着招生、經費和槍支彈藥缺乏諸問題。擺在蔣介石面前的問題多之又多，蔣一籌莫展，整日絞盡腦汁，左思右想，但成效不大。特別是剛閉幕的國民黨一大選出的領導機構成員中，又沒有蔣的位置，直到2月3日，蔣介石才被委任爲中央執行委員會下設的軍事委員會委員。蔣自然很不滿意，而孫中山又指示他不要過問黨務和軍政大事，更讓他覺得不受重用，人微言輕，對孫中山常有抱怨。況且關於黃埔軍校校長人選之事也說法不一，有許崇智說，程潛說，還有李濟深說，更使得蔣介石忐忑不安，灰心喪氣，決定辭職。
3月2日，蔣介石覆信孫中山，解釋他不辭離粵原因是：受人妒忌排擠，積成嫌隙，由來者漸，非一朝一夕之故也。
蔣介石辭職後，孫中山、廖仲愷、胡漢民與他都有信函往來，勸其來粵赴職。蔣介石亦多方推辭，直逼得廖仲愷揚言，如蔣不到位，一切問題由自己解決。這樣，3月27日，蔣致函王柏齡等，指示軍校的籌辦工作須遵從他所定章程。“多盡職務，少出主意”。28日，蔣又電廖仲愷，稱“必來粵”，並對校務提出意見。
4月3日，戴季陶從蔣之意先行赴粵打探消息。戴在謁見孫中山後，電胡漢民說蔣於15日前到粵。14日，蔣介石終於回到廣州。21日，謁見孫中山。至此，蔣的辭職風波才得以平息。
孫中山對黃埔軍校極爲重視，親自兼任該校總理，在總理之下，另設校長負執行之責。5月3日，正式任命蔣介石爲軍校校長，兼任粵軍參謀長。9日，任廖仲愷爲駐軍校中國國民黨黨代表，組成校本部的最高領導，直隸於國民黨中央委員會，下設教授部，主任王柏齡，副主任葉劍英；教練部，主任李濟深，副主任鄧演達；政治部，主任先後擔任者是戴季陶、邵元衝、周恩來、邵力子、熊雄等，何應欽任軍事總教官。
在黃埔軍校的開辦過程中，蘇聯積極支持，先後派了幾十名優秀青年軍官擔任軍事教育工作，並幫助制訂教學計劃和大綱。蘇聯政府除支付顧問團的費用外，撥出200萬元現金，無償地贈送給軍校，8000支步槍和500萬發子彈運送給軍校，解決了黃埔軍校軍械缺乏的問題。
1924年5月5日，在蔣介石的全面負責下，黃埔軍校第一期學生開始人校編隊。其中的工作之巨自是令蔣介石忙得團團轉，經過大概一個多月的時間，黃埔軍校的開學典禮的各項準備工作已基本完成。6月16日，是陳炯明炮轟總統府的日子，這一天黃埔軍校正式舉行開學典禮。
典禮儀式極爲隆重，除全校師生外，還邀請廣東各高級將領，高等文官以及國民黨中央執監委員等500餘人觀禮。孫中山以大元帥兼軍校總理的身份親自主持開學典禮，並致詞勉勵全體師生：“開辦這個軍官學校，獨一無二的希望就是創造革命軍，來挽救中國的危亡。”希望大家“都能相互擔負救國救民的責任”，“要學先烈的行爲，像他們一樣捨身成仁，犧牲一切權利，專心去救國”等，明確地宣佈了創辦黃埔軍校的宗旨，並對全校師生提出更高的期望。孫中山致詞完畢後，即將軍校校印交給蔣介石。
蔣介石手捧校印，情緒激昂，他強烈地感受到來自各個方向目光，這些目光匯聚爲一點，將他灼熱燙傷。臺上是殷殷期望，臺下是歡欣鼓舞，所有的目光都注視着自己，他只聽到主席臺下的一聲聲歡呼，簡直要將他擡上天空。但他也意識到他所處的位置雖然崇高，但如果從此跌落下去，也必將摔個粉碎，要想保持這樣一個位置，他必須明白“水能載舟亦能覆舟”的道理，必須爲黃埔事業嘔心瀝血才行。
2．主政黃埔
從1918年在粵軍擔任作戰科主任到1922年10月，原粵軍第二軍改編爲東路討賊軍、孫中山提升蔣介石爲參謀長，再到1923年春，孫中山在廣州成立大本營，進一步提升蔣爲行營參謀長，參佐軍務。蔣介石在革命軍中始終是一幕僚，沒有軍事指揮權。但是在這一期間，蔣介石經過親歷體驗，越發意識到，掌握一支真正屬於自己的軍隊的重要性。因此，蔣出任黃埔軍校校長後，格外珍惜，全身心投入其中。
蔣介石入主黃埔，兢兢業業，勵精圖治。首先與教官以及入伍新生進行過多次談話交流，問寒問暖，融洽關係。其次，蔣介石開始對軍校軍官和新生進行訓話，加強思想教育，增強黃埔師生之理想信念和紀律觀念等。
開學後的8個月中，蔣介石先後發表講話46次，每次都充滿澎湃之情，慷慨之勢，令人備受鼓舞。蔣介石還經常親自檢查教官、學員的訓練與生活情況，常常在早晨起牀號吹過後即直闖教官、學員的臥室巡視，睡懶覺者常被他集合起來訓斥。不高高在上，總要到餐廳與教職員一起就餐，每次開校務會議時，大都由他一個人作訓話般的交代，很少聽到不同聲音。
蔣介石當時還兼職粵軍參謀長，但他把大部分精力都投在黃埔軍校上，他常駐校中，朝夕與師生相處，不僅一切大計親自擘劃，就是一般規章條例，亦多親手釐訂。他的案頭常置籌備錄，凡有所舉必隨時記錄。事無鉅細，全憑他一人斟酌決定。
縱觀蔣介石在黃埔軍校的教學活動可將其總結爲兩個內容：一是關於教育目的和教育理想。蔣介石認爲教育目的在於造就奉行三民主義的革命軍人。他說：“本黨要辦這個學校，就是要訓練我們在此風雨飄搖、千辛萬苦之中來挽救這些衰敗、剝削、凋殘、橫流的劫運，拯國民於水火之中，登人類於衽席之上。‘本黨辦這個學校的目的在於此，本校同志的責任亦在此。”蔣介石認爲作一個軍人，應具備下列條件：勇猛威嚴、外危若安、臨險如夷、堅忍不拔、不怕死的犧牲精神。二是關於教育方針和教育方法。蔣介石認爲，黃埔教育是軍事教育、政治教育和精神教育三位一體的教育。根據教育內容，教育編制可分成三部：政治部負責政治教育；訓練部主抓精神教育；教授部是任軍事上的智育及訓育軍事教育。
蔣介石在對學生進行教育過程中主要突出以下幾點：一是思想教育。蔣介石主要是挖掘中國古代歷史中治軍的成功典型的營養成分，以《曾國藩和胡林翼治兵語錄》爲重要教材。二是日常生活。蔣介石把衛生建設放到很重要的位置，在與學生的多次訓話中，都對衛生的重要性再次強調，要求大家重視衛生，甚至把衛生列爲軍隊組織的三要素之一。三是教育與拉攏雙管齊下。蔣介石在實際與學生交流過程中，非常注重收攏人心。爲此，他不失時機地樹立自己的威信，包括端正自己的生活作風。蔣介石就這樣以黃埔軍校爲基地，以一種“黃埔精神”爲信仰，逐漸培養了一個龐大的以自己爲核心的嫡系軍事派別——黃埔系。
蔣介石自入主黃埔後，逐漸形成了自己一套治軍思想。他的治軍思想，是傳統的治軍思想、蘇俄紅軍治軍原則與軍事鬥爭實踐的結合。
一是改革軍隊的軍事編制。1925年1月17日，蔣介石手定《革命軍編制草案》，並將此草案令參謀處列號分送各團，轉發所屬各營連遵照辦理。7月1日，蔣介石在向軍事委員會上《軍政意見書》中，詳細規劃了革命軍的編制，以適應即將到來的北伐戰爭的需要。其最大的變化：一爲主張軍需獨立，以保障軍隊供給。二爲主張和平時期撤廢軍長職銜，以防“軍權割據”。
二是“勤以訓練”。蔣介石於1924年8月6日以“各軍軍事訓練籌備委員長”的身份上書軍事委員會，提出軍事訓練計劃：訓練分爲各軍軍隊訓練和各軍事學校之訓練。各軍校訓練，實爲着手訓練計劃之第一步，各校校長或各校派一高級官長爲訓練委員與校黨代表一起，以便軍事與政治雙方訓練互相聯絡，並可一致進行。在實施軍事訓練過程中，蔣介石首先強調按照操典進行嚴格的基本訓練。蔣除重視基本訓練外，更重視軍隊的野外實戰模擬對抗訓練和軍校畢業學生的試驗演習。例如，1925年12月15日，蔣介石統領第一師在湖羊山一帶進行野外對抗訓練。訓練結束時，蔣介石從實戰需要出發，作了講評。對於軍校畢業生的試驗演習，蔣亦從嚴要求。
三是“厚以教養”，亦即對軍人的“精神教育”。蔣對軍人“厚以教養”的原因，主要是受清末湘軍首領曾國藩治軍方式的啓迪。在戰爭頻繁、新兵不斷增加的情況下，基層官佐對新兵精神教育時有放鬆，對此，蔣及時發出通令，要求切實糾正。蔣介石還採取通俗易懂的方式進行思想教育。“教養”的內容是廣泛的，其主要有二：一爲“親愛精誠”：凡是同志同學都要相親相愛，誠心誠意，精益求精的來團結我們精神的意思。二爲“殺身成仁”：軍人只有一個死字，不可背義而生。
四是“嚴以軍紀”。粗略統計一下，蔣在1924年至1925年兩年間先後手訂、頒發的有關軍紀方面的法令、條例、訓令近20項。1925年1月6日，正式制定《革命軍連坐法》。這一時期蔣介石“嚴以軍紀”的最主要內容集中在：一爲強調“服從官長命令”，官長與士兵同樣繩之於軍紀。二爲強調軍人必須“愛護百姓”，不許軍人侵犯百姓利益。