司馬懿與陳羣、吳質、朱鑠並稱“四友”。
此後，司馬懿更是常謀國事，多出奇策。不久，司馬懿轉爲丞相軍司馬，建議屯田解決糧食問題，得到曹操的採納。
司馬懿指出，荊州刺史胡修粗暴，南鄉太守傅方驕奢，都不應駐守邊防，曹操未予重視。同年六月，劉備繼取漢中後，派孟達、劉封攻佔漢中郡東部的房陵、上庸等地，勢力有所擴展。七月，孫權欲攻合肥，魏軍大部調動淮南防備吳軍。
鎮守荊州的關羽，乘此機會率主力北攻荊襄。圍魏將曹仁，水淹于禁七軍，斬龐德。胡、傅二人果然乘機降蜀。
…… ……
一時間關羽聲勢“威震華夏”，因漢獻帝在許縣，距樊城很近，曹操感到威脅，爲避關羽鋒芒，一度準備遷都黃河以北。
司馬懿和曹椽蔣濟及時勸阻說：“于禁被水軍所淹，不是戰守上的失誤，對於國家的大局並沒有大損失，爲此而遷都，即是向敵人示弱，又會使淮河漢水一帶人心不穩；劉備、孫權外親內疏，現在關羽坐大，孫權必定更不高興，把這事告之孫權，使他牽制關羽，則樊城之圍自解。”
曹操從其計，孫權果然派呂蒙襲取公安，關羽被其俘殺。
此戰利用孫、劉爭奪荊州的矛盾，充分運用外交謀略，坐收漁利，不僅挫敗關羽的強大攻勢，解除了樊城之圍，而且也使諸葛亮原定的一路向宛洛、一路出秦川的兩面鉗擊中原的計劃無法實現。更重要的是破壞孫、劉聯盟，改變了當時的戰略格局，曹氏掌握了主動權。
之後，曹操認爲荊州遺民及在潁川屯田的軍民逼近南方寇賊，想把他們遷走。司馬懿認爲：“荊楚輕脫，易動難安。關羽新破，諸爲惡者藏竄觀望。今徙其善者，既傷其意，將令去者不敢復還。”
曹操聽了他的建議，沒有移民。之前藏竄逃亡者果然都復出歸化。
…… ……
曹操去世，朝野危懼，司馬懿管理喪葬諸事，內外肅然。
同年，曹丕即魏王位，司馬懿受封河津亭侯，轉丞相長史。
當時孫權正率軍向西。朝臣們認爲樊城、襄陽缺乏糧，不能抵禦吳軍，請召守將曹仁回駐宛城。
司馬懿則認爲，“孫權剛剛打敗關羽，正是他想和魏國結好的時候，一定不敢爲患。襄陽是水陸交通要地，不能放棄。”
曹丕沒聽其建議，命曹仁放火燒燬二城。
曹氏父子對司馬懿總是持懷疑態度，一開始都不聽他的建議。
後來孫權果然沒來入侵，曹丕悔之不及。
…… ……
曹丕登皇帝位，史稱魏文帝。登基後，任命司馬懿爲尚書，不久轉督軍、御史中丞，封安國鄉侯。
黃初二年（221年），免去督軍官職，升任侍中、尚書右僕射。
接下去，曹丕兩次伐吳，都以司馬懿鎮守許昌，並改封司馬懿爲向鄉侯。黃初六年（225年）二月，轉任撫軍大將軍、假節，領兵五千，加給事中、錄尚書事。
司馬懿辭讓，曹丕說：“吾於庶事，以夜繼晝，無須臾寧息。此非以爲榮，乃分憂耳。”
同年，曹丕又大興水軍攻吳，仍命司馬懿留守，“內鎮百姓，外供軍資”。
臨行，下詔書給司馬懿說：“吾深以後事爲念，故以委卿。曹參雖有戰功，而蕭何爲重。使吾無西顧之憂，不亦可乎！”
後曹丕由廣陵回師洛陽，又下詔對司馬懿說：“吾東，撫軍當總西事；吾西，撫軍當總東事。”
於是司馬懿留鎮許昌。
在此期間，司馬懿納娶了伏姓女子爲妾，伏氏一口氣給司馬懿生了司馬亮、司馬胄（伷zhòu）、司馬京、司馬駿四個兒子！
伏氏善生育，而且爲男丁，有功，一輩子低調，正妻張春華沒有難爲她，富貴善終。
…… ……
曹丕駕崩，享年四十歲。臨終時，令司馬懿與中軍大將軍曹真、鎮軍大將軍陳羣、徵東大將軍曹休爲輔政大臣。
曹丕對太子曹叡（叡rui）說：“有間此三公者，慎勿疑之。”
曹叡（叡rui）即位，改封司馬懿爲舞陽侯。
孫權得知魏文帝去世後，於八月出兵攻魏。命諸葛瑾、張霸兵分兩路進攻襄陽，親自率軍進攻江夏郡。
司馬懿擊退了孫權，又擊敗諸葛瑾，並斬殺張霸，斬首千餘級。十二月，升任驃騎將軍。
…… ……
太和元年（227年）六月，魏明帝命司馬懿駐紮宛城，加督荊、豫二州諸軍事。蜀將孟達降魏時，魏朝待其甚厚，司馬懿認爲他言行傾巧，不可信任。但皇帝不聽，任命孟達領新城太守，封侯，假節。
曹丕死後，孟達失寵，蜀丞相諸葛亮即暗中與之通信，圖謀叛魏。諸葛亮恐他言行反覆無常，想促他速叛，知魏興太守申儀和他有矛盾，便派郭模到申儀處詐降，有意泄露其事。孟達聞此泄露，準備馬上起兵。
申儀將此事密告司馬懿後，司馬懿怕他突然發難，給他去信，詳爲慰解，信中說：“將軍昔棄劉備，託身國家，國家委將軍以疆場之任，任將軍以圖蜀之事，可謂心貫白日。蜀人愚智，莫不切齒於將軍。諸葛亮欲相破，惟苦無路耳。模之所言，非小事也，亮豈輕之而令宣露，此殆易知耳。”
孟達得信大喜，猶豫不決。
司馬懿則暗中率軍進討，諸將見孟達與吳蜀交接，勸司馬懿先觀而後動。司馬懿說：“達無信義，此其相疑之時也，當及其未定促決之。”
司馬懿親自率軍日夜兼程前去討伐孟達，八天抵達新城城下。吳、蜀派出援兵解救孟達，被司馬懿部攔阻於西城的安橋、木蘭塞等地。
此前，諸葛亮曾告誡孟達加緊防範，孟達寫信給諸葛亮認爲：“宛城和洛陽相距八百里，離我處一千二百里，上表給天子，來回路程，少需一個月，那時我的城池已修固，諸軍都作好了準備。我駐紮的地形深險，司馬公必不會親自來，其他部將來，則不足爲患”。
而司馬懿先斬後奏，僅八日就兵臨城下，孟達又寫信給諸葛亮，驚歎：“吾舉事，八日而兵至城下，何其神速也！”