由于曹丕和曹植忙于竞争继承权，司马懿和杨修之间的关系也变得日益对立。
建安二十年，曹操平定了汉中后，司马懿提议立即讨伐刚夺取蜀地、根基尚浅的刘备。
然而，杨修则认为刘备已在益州立稳脚跟，而且曹操初定汉中，民心尚未稳定，凉州刚刚归附不久，发动仓促战争恐难以奏效，并可能导致国力衰竭。
曹操最终采纳了杨修的建议，没有立即开战，反而留下了“得陇望蜀”
的典故。
到建安二十二年，曹操当上了魏王，司马懿再次献计直接称帝，但未获曹操接纳，反而被逐出丞相府，安排到曹丕麾下任职。
建安二十四年，汉中之战后，随着曹植地位式微，杨修因种种缘由被曹操处死。
曹丕事实上已成为魏王太子的继承人，司马懿也被提拔为“太子中庶子”
，位列曹丕身边重要的辅臣之一——即所谓“太子四友”
。
其中陈群、吴质、朱铄三人均在内政管理方面有所建树，但在战略上，唯独司马懿最为出色。
曹操去世后，曹丕代汉建立魏朝，改元黄初，司马懿相继被提升为尚书、御史中丞，并被封为安国乡侯。
因治理黄河水患有功，司马懿于黄初二年进一步升迁为侍中、尚书右仆射。
此时，他已是魏朝廷中的重臣，除了几位年迈的元老如贾诩、王朗、华歆，在文官中已无人可与他匹敌。
黄初五年，曹丕因伐吴之败耿耿于怀，决定再度挥师前往濡须口，以图一雪前耻。
此行中，他麾下的名将如曹休、曹真、夏侯尚、张合、徐晃及文聘纷纷出征。
曹丕将粮草补给等后勤事宜委派给了司马懿，并授予其五千精锐和临时军事权力。
这使司马懿首度触及兵权。
俗语云：“凡事宜慎重启端，始则易于掌控，续后便难收束。”
曹丕对司马懿赞赏有加，赞许他为“萧何再生”
，而司马懿也顺势表示感激，并呈上一篇长达八百字的骈文表敬意。
到了黄初七年，曹丕在巡视南方返回后健康状况急转直下，他对未能顺利征服吴国之事心生悔意。
了解此事后，司马懿上书陈述蜀国与吴国现状，建议集中精力攻蜀。
他认为吴国有陆逊统率外部军事并孙权稳定内政，魏难以速破吴，除非出现极端意外——比如孙权突然撤换陆逊自己指挥，但这样的变数微乎其微。
因此建议先取蜀而后灭吴的战略方案。
虽曹丕采纳此策略，可惜他的身体每况愈下。
最终，在黄初七年的五月份，立曹叡为太子并任命了四位辅佐大臣包括司马懿在内；未久曹丕崩逝，曹叡继位登基。
听闻曹丕辞世，孙权迅速命令诸葛瑾领军进攻襄阳。
当时镇守襄阳的征南将军夏侯尚已亡，面对攻势，襄阳陷入困境。
于是新帝曹叡派遣司马懿领五千人紧急增援，并成功击败诸葛瑾军队斩敌超过三千，杀吴臣孙霸，令围困部队撤离，孙权感慨说“即无曹丕之存在魏亦不可忽视。”
同年年底，司马懿因为战功显赫获擢升骠骑将军，正式跻身高级将领之列。
然而曹睿对授权予他并非毫无保留，上面还有着曹休与曹真的压力，让他难以获得广泛的军队认同和支持。
而驻扎在上庸地区的孟达自夏侯尚逝世后日夜忧虑，深知失去了朝中的唯一靠山夏侯尚，前途未卜。
失去夏侯尚之后，孟达感到自己像是漂泊无依的孤舟，迷失了前行的方向。
在诸葛亮的笼络之下，他再次转向蜀汉阵营，这已经是他第五次背叛主公了。
每一次背叛都是毅然决然地投身于对立阵营，吕布那样的“三姓家奴”
都显得小巫见大巫。
要说这位时代中不改初衷的“忠臣”
，非孟达莫属！对他而言，更换效忠对象就像家常便饭，重复五次也毫不觉得新奇。
然而，孟达明显低估了魏、蜀两国对他的戒心。
随着司马懿以骠骑将军的身份驻守宛城，全面接替了夏侯尚的工作，他对孟达的态度早已了如指掌，认为此人终会叛变，绝不安于现状。
夏侯尚在世时，司马懿就曾建议曹丕诛杀孟达；但因为夏侯尚劝阻，曹丕没有听从司马懿的建议，不然此时的孟达或许早已不在人世。
如今司马懿成为了孟达名义上的上司，这对于孟达来说如同平地惊雷，而司马懿也没有让他的猜测成真。
司马懿上任三天后，即向曹叡进言，请求采取限制孟达的一系列措施——其实就是想要逼他 ** 。
考虑到孟达所处的上庸三郡位于三国交界的敏感位置，若让他投靠吴蜀一方将带来极大的隐患，先发制人的处理是避免未来更大风险的最佳选择。
与此同时，诸葛亮虽为孟达规划出宏大的图景来稳住他，但这些只是为了确保蜀汉能继续推进北伐凉州，并不是为了攻打荆州。
在此计划下，蜀国还暗中派人散播孟达谋反的谣言，以激化形势。
最终，在诸葛亮与司马懿的联手操作下，孟达陷入了绝境。
就在司马懿率军进攻前夕，他派了一名使者带厚礼前往上庸与孟达接触，此举令孟达误认为司马懿不会动手。
于是他放松了警戒。
结果当司马懿仅用八天快速赶到上庸城附近突袭时，孟达及其军队毫无准备。
再加上当地将领申耽和申仪兄弟临阵倒戈相助司马懿，使得孟达迅速崩溃，落了个身死人手的悲惨结局，沦为魏蜀之战中的牺牲品。
最终，司马懿几乎毫发无损地迅速平定了上庸三郡。
得知孟达已被消灭，陆逊抓住时机率军北上，在襄樊一带与司马懿对峙。
两军对峙持续了近半年，方才各自撤军。
太和二年，曹休为迎接周鲂的投降，执意率兵进入石亭。
在曹休行动之前，司马懿已预言周鲂降魏必有诈。
结果果然如他所料，曹休在石亭遭遇埋伏，大败而回，不久后便在愤恨交加中病逝。