宣皇帝名懿，字仲達，河內溫縣孝敬裏（裏，古代地方行政單位）人。姓司馬，司馬懿司馬懿少年時既有奇節，聰明而又謀略，博學多聞，潛心於儒家 研究。漢末天下大亂，司馬懿經常慨然爲天下有心。
漢建安六年（201），宣帝被選拔爲向朝廷報事的上計掾。魏武帝當時爲司空，聞宣帝之名而欲徵召他任職。宣帝知道漢朝國運已經衰微，不願屈服於曹氏，便假稱有風痹之疾臥牀難起，拒絕徵召。魏武帝使人夜裏去刺探他，宣帝臥牀不起。魏武帝爲丞相，又徵召爲文學掾，給使者下令說：“若再推辭不來，就把他逮捕起來。”宣帝懼怕而就職。於是使他與太子一起相處以切磋學問，後遷爲黃門侍郎，又轉爲議郎、丞相東曹屬，不久轉爲主簿。魏國建立後，遷爲太子中庶子，每次參與議定大事，總有奇策異謀，爲太子所信賴重用，與陳羣、吳質、朱鑠號稱四友。
後遷爲軍司馬，對魏武帝說：“昔日箕子陳述治國之謀，把食放在首位。當今天下百姓不參加耕種的有二十餘萬，這不是治國的長遠謀略啊!雖然戰事未停，應該一邊耕種一邊守備。”魏武帝採納了這個意見，於是務農積穀，國家費用豐足。
魏武帝在洛陽去世時，朝野人士以爲會出現危險局勢而害怕。宣帝統領喪事，內外寧靜無事，奉靈柩回鄴安葬。魏文帝襲職即王位，封宣帝爲河津亭侯，轉爲丞相長史。黃初五年，天子南巡，在魏吳邊界觀兵。宣帝留鎮許昌，改封爲向鄉侯，轉爲撫軍、假節，領兵五千，加給事中、錄尚書事。宣帝堅意辭讓。天子說：“我處理各種政務，夜以繼日，沒有片刻休息時間。任此職並非榮耀之事，只是爲我分憂罷了。”天子病重時，宣帝與曹真、陳羣等在崇華殿之南堂拜見天子，天子臨終遺命讓他們輔助少主，給太子下詔說：“有人離間此三公的，要慎重處理，不要懷疑他們。”
宣帝內心嫉妒而外表寬厚，對人多猜忌，善用權謀，魏武帝察覺宣帝有雄心大志，又聽說宣帝能像狼一樣回首反顧，想試驗他。召來同行，使他走在前面，令他反顧，他面正向後而身不動。魏武帝又曾夢三馬食於一槽，心中很厭惡。於是對太子曹丕說：“司馬懿不是作人臣的人，你以後要防備。”太子平時與宣帝友善，每每庇護他，故得無事。宣帝於是勤於職守，廢寢忘食，以致採樵牧馬人之間，也要走動詢問，因此魏武帝才安心。後來平公孫文懿時大肆殺戮。殺曹爽時，支黨皆夷滅三族，不論男女老幼，姑姊妹女子已經嫁人的都殺掉，最後竟篡奪曹魏天下。
