此战不但是利用孙、刘争夺荆州的矛盾，充分运用外交谋略，坐收渔利，不仅挫败关羽的强大攻势，解除了樊城之围。
最重要的是，也使诸葛亮原定的一路向宛洛、一路出秦川的两面钳击中原的计划无法实现。
更关键的是破坏孙、刘联盟，改变了当时的战略格局，掌握了主动权。
之后曹操认为荆州遗民及在颍川屯田的军民逼近南方寇贼，想把他们迁走。
司马懿当时认为：“荆楚轻脱，易动难安。关羽新破，诸为恶者藏窜观望。
今徙其善者，既伤其意，将令去者不敢复还。”
曹操听了他的建议，没有移民。
之前藏窜逃亡者果然都复出归化。
延康元年，曹操去世，朝野危惧，司马懿管理丧葬诸事，内外肃然。
同年，曹丕即魏王位，司马懿受封河津亭侯，转丞相长史。
当时孙权正率军向西。
朝臣们认为樊城、襄阳缺乏粮，不能抵御吴军，请召守将曹仁回驻宛城。司马懿则表示：“孙权刚刚打败关羽，正是他想和魏国结好的时候，一定不敢为患。
襄阳是水陆交通要地，不能放弃。”曹丕没听其建议，命曹仁放火烧毁二城。
后来孙权果然没来入侵，曹丕悔之不及，不过这也是曹丕自己的选择，不得怪罪别人。
十一月，曹丕登皇帝位，史称魏文帝。
登基后，任命司马懿为尚书，不久转督军、御史中丞，封安国乡侯。
后免去督军官职，升任侍中、尚书右仆射。
曹丕两次伐吴，都以司马懿镇守许昌，并改封司马懿为向乡侯。
黄初六年二月，转任抚军大将军、假节，领兵五千，加给事中、录尚书事。
同年，曹丕又大兴水军攻吴，仍命司马懿留守，“内镇百姓，外供军资”。
临行，下诏书给司马懿说：“吾深以后事为念，故以委卿。
曹参虽有战功，而萧何为重。
使吾无西顾之忧，不亦可乎！”后曹丕由广陵回师洛阳，又下诏对司马懿说：“吾东，抚军当总西事；吾西，抚军当总东事。”于是司马懿留镇许昌。
五月，曹丕驾崩，享年四十岁。临终时，令司马懿与中军大将军曹真、镇军大将军陈群、征东大将军曹休为辅政大臣。
曹丕对太子曹叡说：“有间此三公者，慎勿疑之。”
曹叡即位，改封司马懿为舞阳侯。
孙权得知魏文帝去世后，于八月出兵攻魏。
命诸葛瑾、张霸兵分两路进攻襄阳，亲自率军进攻江夏郡。
司马懿击退了孙权，又击败诸葛瑾，并斩杀张霸，斩首千余级。
十二月，升任骠骑将军。
魏明帝命司马懿驻扎宛城，加督荆、豫二州诸军事。
蜀将孟达降魏时，魏朝待其甚厚，司马懿认为他言行倾巧，不可信任。但皇帝不听，任命孟达领新城太守，封侯，假节。
曹丕死后，孟达失宠，蜀丞相诸葛亮即暗中与之通信，图谋叛魏。
诸葛亮恐他言行反复无常，想促他速叛，知魏兴太守申仪和他有矛盾，便派郭模到申仪处诈降，有意泄露其事。
孟达闻此泄露，准备马上起兵。
“司马懿遣胡遵、郭淮共备阳遂，与亮会于积石，临原而战，亮不得进，还于五丈原。后遣奇兵掎亮之后，斩五百余级，获生口千余，降者六百余人”。
五月，十万吴军攻魏，配合蜀汉军作战，被满宠所拒。
七月，魏明帝率兵亲征，吴军撤走。群臣认为司马懿正还在西边和诸葛亮重兵对峙，车驾可西幸长安，魏明帝则说：“权走，亮胆破，大将军以制之，吾无忧矣。”诸葛亮东进的道路受阻于司马懿，从渭水前进，又有郭淮阻挡，乃移军攻取散关，陇城等地，回师进攻司马懿。
八月，司马懿以“坚壁拒守，以逸待劳”的指示，与诸葛亮相持百余日。
诸葛亮数次挑战，司马懿均坚壁不出，以待其变。诸葛亮便派人给司马懿送来“巾帼妇人之饰”，欲激司马懿出战，司马懿仍不出战。为平息部属不满情绪，故意装怒，上表请战。魏明帝不许，并派骨鲠之臣辛毗杖节来做司马懿的军师，以节制他的行动。诸葛亮一来挑战，司马懿就要带兵出击，辛毗杖节立于军门，司马懿便不出兵。
蜀将姜维就对诸葛亮说：“辛毗杖节而至，贼不复出矣。”诸葛亮则说：“彼本无战情，所以固请战者，以示武于其众耳。将在军，君命有所不受，苟能制吾，岂千里而请战邪！”诸葛亮遂分兵屯田，做长久屯驻之准备。
司马懿的弟弟司马孚也来信问前线军情，司马懿回信说：“亮志大而不见机，多谋而少决，好兵而无权，虽提卒十万，已堕吾画中，破之必矣。”
不久，诸葛亮遣使求战，司马懿不谈军事，问使者：“诸葛公起居饮食如何，一顿能吃多少米？”使者说：“三四升。”
然后对问政事，使者说：“打二十军棍以上的处罚，都是诸葛公自己阅批。”经过一番不经意的询问，司马懿对人说：“诸葛亮将要死了。”
果然，诸葛亮于当月病故于五丈原军中。
蜀将秘不发丧，整军后退。
当地百姓跑来报告，司马懿派兵追击，蜀将杨仪返旗鸣鼓，做出回击的样子，司马懿以‘穷寇莫追’收军退回。
当时有人传：“死诸葛走生仲达”，司马懿听到笑说：“这是因为我长于预测活人的事，不长于预测人的生死啊。”
第二天，司马懿到诸葛亮营垒巡视，并赞诸葛亮“天下奇才也”。
历时七年的诸葛亮北伐至此结束。诸葛亮以一州之地强攻雄踞中原的曹魏，纵使竭忠尽智，终因实力悬殊而难以实现其战略目的。而曹魏则在司马懿、曹真等人的人正确指挥下，以优势兵力采取防御战略迫退蜀军，取得了最后的胜利。
蜀汉将领杨仪、魏延在撤军后争权，杨仪杀死魏延。
司马懿想乘机攻蜀，魏明帝未准，作罢。
青龙三年，司马懿升任太尉，累增封邑。蜀将马岱入境侵扰，司马懿派牛金迎击，斩蜀军千余人。
武都氐王苻双和强端率领其属下六千余人来降。
司马懿平定辽东后，原本朝廷让司马懿便道往镇关中。
但当到达白屋时，有诏书召他火速回京，三日之间，诏书五至。魏明帝手书说：“间侧息望到，到便直排阁入，视吾面”。据说，司马懿在襄平时，曾梦见魏明帝枕在他膝上，说：“视吾面。”他俯视，见魏明帝面有异色。
如今一见诏书此语，大惊，乘追锋车昼夜兼行，从白屋到京城，四百多里，一夜而至。至则径人嘉福殿内御床旁边，满眼流泪，指问疾病。魏明帝拉着他的手，目视太子齐王，说：“以后事相托。死乃复可忍，吾忍死待君，得相见，无所复恨矣。”当天，魏明帝去世。
齐王曹芳年仅八岁，司马懿乃与大将军曹爽一起接受遗诏辅佐少主。齐王即位，司马懿任侍中、持节、都督中外诸军、录尚书事，和曹爽各统精兵三千人，共执朝政。
曹爽欲排挤司马懿，想让尚书奏事先通过自己，以便专权，向天子进言，改任司马懿为大司马。朝臣们认为以前大司马，有好多都死在任上，不吉，于是任命司马懿为没有实权的太傅，像萧何那样，入殿不趋，赞拜不名，剑履上殿。
四月的时候，吴帝孙权分兵四路攻魏：卫将军全琮率军数万出淮南，威北将军诸葛恪攻六安，前将军朱然攻樊城，大将军诸葛瑾攻祖中。
五月，吴将全琮入侵芍陂，朱然、孙伦围攻樊城，诸葛瑾、步骘侵掠柤中，司马懿自请出兵往讨。
朝臣认为，敌兵远来攻坚，当待其自破，司马懿则说：“边城受敌人侵扰而大臣安坐庙堂，会使疆场骚动不安，众心疑惑，这是社稷的大忧患。”
六月，司马懿统军增援，司马懿知南方暑热低湿，大军不宜持久在此，先派轻骑挑战，朱然不敢动。于是，便休养土卒。检选精锐，招募勇士，发布号令，摆出攻城的架势。吴军惊惧，连夜撤退。
在三州口（荆、豫、扬三州），为魏军追及，吴军被歼万余人，船舰物资损失甚多。而进攻六安、柤中的吴军亦无功而还。
七月，增司马懿食郾、临颍，前后共四县，食邑万户，子弟十一人皆为列侯。
司马懿功勋德望日渐盛大，然而却更加谦恭。
司马懿认为太常常林是同乡长者，见了他总要下拜。
由此可以看出司马懿注重礼仪，为人谨慎小心。
常告诫子弟们说：“盛满是道家所忌的，春夏秋冬尚且往返推移，吾有何德能居此高位。减损再减损，或可以免于祸啊！”