為拉攏司馬懿，他軟硬兼施，使司馬懿感到恐懼，終于出山，來(lái)到曹操身邊做官。雖然曹操比司馬懿年長(zhǎng)20多歲，但司馬懿“聰亮明允，剛斷英特”，被譽(yù)為“非常之器”，其才干不在曹操之下。當(dāng)這兩個(gè)強(qiáng)人一見面，矛盾便隨之產(chǎn)生了。據(jù)說(shuō)曹操曾做一夢(mèng)，夢(mèng)見“三馬同食一槽”（三馬，指三司馬，司馬懿、師、昭；槽，曹家也）,這讓曹操十分不爽，他對(duì)兒子曹丕說(shuō)：“司馬懿非人臣也，必預(yù)汝家事！”--關(guān)于這個(gè)夢(mèng)，雖然不排除有后人附會(huì)之嫌，但曹操見到精明的司馬懿之后，在潛意識(shí)中產(chǎn)生防范戒備之心也是可能的。
不過(guò)在曹操當(dāng)政之時(shí)，司馬懿不顯山不露水，做事低調(diào)，十分謹(jǐn)慎，這是因?yàn)樗啦懿俚膮柡�。司馬懿工作勤懇，辦事謹(jǐn)慎，盡量迎合曹操，討曹操歡心。司馬懿在以下三方面做得非常出色。
第一，辦事認(rèn)真，盡職盡責(zé)。
據(jù)《晉書·宣帝紀(jì)》記載：司馬懿“勤于吏職，夜以忘寢，至于芻牧之間，悉皆臨履，由是魏武意遂安”。他工作勤勉，夜以繼日，甚至連割草放牧這樣的小事，全都親自過(guò)問(wèn)，曹操這才逐漸放心。
第二，曲意迎合，以求好感。
曹操晚年，權(quán)勢(shì)強(qiáng)大，代漢稱帝時(shí)機(jī)日益成熟，可是曹操卻堅(jiān)持不稱帝，這表現(xiàn)了曹操顧全大局，具有政治家的胸懷。因?yàn)樗坏┓Q帝就會(huì)成為眾矢之的。其實(shí)曹操何嘗不想稱帝，他只是以理性控制自己的欲望，這正是他的高明之處。司馬懿深知曹操的矛盾心理，便有意投其所好，以求好感。
有一年，孫權(quán)給曹操寫了一封信，建議曹操順應(yīng)天命，代漢稱帝。曹操一眼看穿了孫權(quán)的真實(shí)用意，說(shuō)：“是兒欲踞吾著爐火上耶!”顯然，曹操罵孫權(quán)是從維護(hù)天下穩(wěn)定這一大局出發(fā)的，而內(nèi)心極力壓抑當(dāng)皇帝的欲望。
當(dāng)時(shí)正在曹操身旁的司馬懿也見到了孫權(quán)的信，立即說(shuō)：“漢運(yùn)垂終，殿下十分天下而有其九，以服事之。（孫）權(quán)之稱臣，天人之意也。虞（舜）、夏、殷、周不以謙讓者，畏天知命也。”此話極力投其所好，讓曹操高興。雖然曹操?zèng)]有稱帝，但司馬懿卻贏得了曹操的好感。217年，曹丕被立為太子，司馬懿被任命為太子中庶子，與曹丕的關(guān)系進(jìn)一步密切。
第三，獻(xiàn)計(jì)獻(xiàn)策，展示才華。
司馬懿是才華橫溢之人，但他又很清楚曹操的性格。所以他盡量做到既展示才華，又不過(guò)分張揚(yáng)，更不與曹操發(fā)生沖突，點(diǎn)到為止，不溫不火。這期間，有三件事他做得很漂亮，司馬懿的才華也得以表現(xiàn)。
之一，得隴望蜀，具有戰(zhàn)略眼光。
建安二十年（215年），他隨曹操征討張魯。--張魯原來(lái)在益州牧劉焉手下做官，后來(lái)被派往漢中駐守。漢中在今陜西南部，是進(jìn)入四川的必經(jīng)之路，戰(zhàn)略位置十分重要，張魯?shù)竭_(dá)漢中后，自以為羽翼豐滿，便宣布脫離劉焉，建立了割據(jù)政權(quán)。
曹操認(rèn)為，張魯政權(quán)的存在對(duì)他是個(gè)威脅，決定進(jìn)行征討。曹軍逼近漢中后，張魯見抵擋不過(guò)，便投降了曹操。在張魯決定向曹操投降的時(shí)候，司馬懿向曹操建議，說(shuō)：“劉備以詐力虜劉璋，蜀人未附而遠(yuǎn)爭(zhēng)江陵，此機(jī)不可失也。今若曜威漢中，益州震動(dòng)，進(jìn)兵臨之，勢(shì)必瓦解。因此之勢(shì)，易為功力。圣人不能違時(shí)，亦不失時(shí)矣。”