最初，曹操为司空时，听说司马懿博学多才，欲擢用，便派人去请司马懿。司马懿看不起出身“赘阉遗丑”的曹操，就以风痹之病为借口推脱不仕。建安十三年，即公元208年，曹操“挟天子以令诸侯”，被献帝拜为丞相。曹操再次派人去请司马懿。这一次，来人态度强硬，说：“如果司马懿不能去，就将他抓去。”司马懿无奈，只得到丞相府做了文学掾。
司马懿自知已经得罪了曹操，因此在曹操手下办事，小心谨慎，勤勤恳恳。先后迁为黄门侍郎、转议郎、丞相东曹属及主簿。另外司马懿的三弟司马孚也被曹操征辟，先任陈思王曹植的文学掾，后迁为太子中庶子。司马懿本来一直都被曹操所猜忌。他人生的转折点是在建安二十四年。这一年东吴孙权向曹操上表称臣，并怂恿曹操自立为帝。当时，曹操手下的门阀官僚，如荀或、崔琰等著名人物都持拥汉的态度，对曹氏代汉颇有异议，也因此而不得善终。司马懿看出了曹操的野心，他对曹操说：“汉运垂终，殿下十分天下而有其九，以服事之。权之称臣，天人之意也。虞、夏、殷、周不以谦让者，畏天知命也。”这一番话是很合曹操心思的，从此司马懿成为曹操的亲信重臣。在曹操称魏王以后，就用司马懿为太子中庶子，以佐助曹丕。
司马懿和曹丕的关系非常好，“每与大谋，辄有奇策，为太子所信重，与陈群、吴质、朱铄号为四友”。后来司马懿为曹丕“篡汉”更是出了大力，所以他才一直为曹丕所“信重”。曹丕代汉称帝后，司马懿的地位渐渐重要起来，由尚书、督军、御史中丞起，官至抚军将军，加给事中录尚书事。黄初五年，曹丕以尚书令陈群为镇军大将军，尚书仆射司马懿为抚军大将军。当时，军权主要仍在曹氏手中。论地位，曹真、曹休、陈群也略在司马懿之上。公元228年曹休死。公元231年，曹真死。公元236年，陈群死。这以后，司马懿的地位逐渐突出，对蜀战事，多由他来主持。
在曹丕一生中曾两次伐吴，每次都以司马懿居守许昌，到曹丕临终时，更令司马懿与曹真、陈群、曹休四人为辅政大臣，共同辅佐魏明帝曹睿。在魏明帝时期，司马懿成为魏国政治舞台上最为重要的人物之一。他不只是曹睿的谋臣，同时还掌握着军权，成为了可以独当一面的军事首领。
司马懿是一个极具军事才能的人，他第一次展示这一才能是在建安二十四年，也就是公元219年。那时蜀将关羽围攻樊城，水淹七军，虏于禁，斩庞德，威镇华夏。而汉献帝都许昌，离樊城很近，曹操为避关羽的兵锋，曾打算迁都河北。时为曹操军司马的司马懿向曹操建议说：“禁等为水所没，非战守之所失，于国家大计未有所损，而便迁都，既示敌以弱，又淮沔之人大不安矣。孙权、刘备外亲内疏，羽之得意，权所不愿也。可喻权所，令掎其后，则樊围自解。”曹操听后，采纳了司马懿的建议，暗地与孙权联系，达成了联合攻蜀军的密谋。结果关羽丢失了荆州，自己最后也身首异处。
魏明帝时，司马懿的军事才能得到了充分展现。他长期参与领导对吴作战，有一天，魏明帝向司马懿询问对吴作战的方略，司马懿回答说：“吴以中国不习水战，故敢散居东关。凡攻敌，必扼其喉而揞其心。夏口、东关，贼之心喉。若为陆军以向皖城，引权东下，为水战军向夏口，乘其虚而击之，此神兵从天而堕，破之必矣。”在公元231年和公元234年，司马懿曾两度领兵于祁山和五丈原抗击蜀丞相诸葛亮的北伐。虽然魏军在当时有二十万左右，而蜀军为十万，在数量上占优势，但诸葛亮善于治军，蜀军又经过长期北伐准备，训练有素，故在战斗力上胜魏一筹。当时魏明帝向司马懿下令：“坚壁拒守，以挫其锋，彼进不得志，退无与战，久停则粮尽，掳掠无所获，则必走矣。走而追之，以逸待劳，全胜之道也。”司马懿则对此进行了有效地执行。尽管被他的将领讽刺为“畏蜀如虎”，司马懿仍轻易不与诸葛亮交锋。在司马懿这种坚壁不战的策略下，诸葛亮竟一筹莫展，不能越雷池一步，结果他的北伐最后都以失败告终。
曹丕死后，原蜀汉降将孟达在诸葛亮的策动下，欲叛魏归蜀。司马懿时领兵驻宛，听到这一消息后，他一面写信给孟达假意安抚，一面立即潜军进讨，八天行军一千二百里，赶到上庸城。当时“孟达众少而食支一年”，魏军“四倍于达而粮不淹月”。在这种情况下，司马懿果断地采取速决战，他一面派兵分拒蜀、吴对孟达的援军，一面亲率主力分八道猛攻上庸城，仅用十六天的时间，司马懿就破上庸，斩孟达，结束了战争。
自东汉末年军阀混战开始，公孙度就割据辽东。公孙度对曹魏政权虚与委蛇，时叛时降，保持着半独立的地位。公孙度死后，公孙渊继为辽东太守，对魏则更加不逊。景初元年，魏明帝派毋丘俭率兵伐辽东，结果大败。公孙渊于是自立为燕王，并引诱鲜卑对魏进行侵扰。于是，魏明帝改派司马懿领兵四万继续伐辽东。临行前，司马懿对魏明帝说：“惟明者能深度彼己，豫有所弃，此非其所及也。今悬军远征，将谓不能持久，必先距辽水而后守，此中下计也。……往百日，还百日，攻百日，以六十日为休息，一年足矣。”
展开
