司馬光出生於宋真宗天禧三年（1019年）十一月，字君實，世稱涑水先生，北宋陝州（今山西夏縣）人，歷仕仁、英、神、哲宗四朝。神宗元豐年間，撰《資治通鑒》二百九十四卷。哲宗立，拜尚書右僕射，在相位八月而卒，為北宋名臣與史學家。他好讀書，尤其對歷史有著十分濃厚的興趣，他不僅能夠熟練的背誦《左傳》，而且可以把二百多年的歷史梗概講述的清清楚楚。
司馬光年約五、六歲時，有一次要吃青胡桃，他的姊姊幫他去殼，但剝不掉，一婢女用熱水將胡桃泡過後去殼，後來姊姊問他是誰把殼去掉的，司馬光說是自己去的。這話正好被他的父親司馬池聽見，就喝斥他：「小子怎麼可以說謊！」司馬光從此以後就沒說過謊。日後司馬光教導他的學生劉安世什麼是「誠」，他說：「就要從不說謊做起。」他曾經說：「我生平沒有什麼過人之處，但平生所做的事，從沒有任何一件事不可以對別人講。」
司馬光七歲時就像成人一樣有威嚴，非常喜愛聽人家講左氏春秋，回家即能把大意講給家人聽，而且從此以後手不釋書乃至不知飢渴寒暑。有一天，他跟一群小孩在院子玩耍。院子裡有一口大水缸，有個小孩爬到缸上，並掉到缸裡就要沒頂，別的孩子見出了事，都趕快逃跑，司馬光從地上拾起一石塊，將水缸打破，缸裡的水流了出來，小孩因此得救。後來，東京和洛陽有人把這件事畫成《小兒擊瓮圖》。
他十五歲時就書無所不通，文辭醇深，有西漢風。仁宗寶元初（1038年）司馬光年二十考上進士，因不喜奢華，皇帝召見時只有他不戴花，同去的人中有人告訴他是皇帝賞賜不能不戴，他才將花戴上。後來司馬光被任命為「奉禮郎」，他以父親在杭，而辭該官職，請求改讓他當「蘇州判官」以便照顧父母親，獲准。不久他的雙親相繼過世，司馬光執喪累年，毀瘠如禮。
仁宗在位時，西夏王趙元昊稱帝，當時麟州（今陜西神木縣）多良田，西夏人蠶食其地，當時宰相龐籍命司馬光前往視察，司馬光建議可蓋兩座堡壘以制約西夏人，同時募民耕之。龐籍採納他的建議，後來守將郭恩勇狂妄引兵夜渡河，被敵軍殲滅，龐籍因此獲罪被罷免。司馬光為此三次上疏自引咎，後來龐籍過世，司馬光升堂拜其妻如母，照顧其子如昆弟，當時的人都認為司馬光賢良。
司馬光廉潔奉公，仁宗皇帝臨終前遺詔（1063年），賜給司馬光等大臣約百餘萬的金銀財寶，司馬光三次領銜上書，陳述：「國家目前處於憂患窮困，如果因為遺賜不可拒絕，應該允許大臣們將所獲得的金錢捐出以資助國家。」司馬光的建議未被批准，最後他將自己那一份賞賜交給諫院，充作公費不願藏私於己。
神宗熙寧三年（1070年）王安石開始變法，司馬光極力反對新法，認為王安石乃「侵官、生事、征利、拒諫」，同時司馬光用人以德的觀點和王安石有很大的出入。當時朝廷對於實施新法有很多爭議，司馬光與呂惠卿針對「制置三司條例司」在皇帝面前辯論，司馬光認為「宰相以道佐人主，安用例？苟用例，則胥吏矣。」對於司馬光的說法呂惠卿無言以對，只好用其它話詆毀司馬光，神宗即說：「相與論是非耳，何至是。」
由於司馬光堅決反對新法，因此當宋神宗任命他為樞密副使時，他六次上奏章辭官，他說：「陛下所以用臣，是覺得我是狂狷率直的人，希望能對國家有所幫助，若只是用俸祿官位尊榮我，卻不採納我的建言，這是把天官私自賞給不適當的人。如果我只是以祿位榮顯自己，卻不能解救天下百姓的痛苦，那就是盜竊名譽地位以謀私利。」
後來，神宗在有人詆毀司馬光時說：「別的事不說，光就辭樞密一事，自我即位以來，只有他一人。」又說：「有像司馬光這樣的人經常在左右的話，就可以不犯過錯。」充分肯定了司馬光的人品。
司馬光辭官後，便將所有精力用於編修《資治通鑒》。由於司馬光博通經史，尤其留心研討歷代史書，他明白歷史最大的功能在於讓人借鑒。然而，他在館閣校書以及任天章閣待制兼侍講官時，看到書架上滿滿的史書，幾間屋子都放不下，如此浩翰的朝野史籍，一個人窮畢生之精力也是看不過來的，於是產生了編寫一本既系統又簡明扼要的通史，使人讀了之後能瞭解幾千年歷史興衰得失的念頭。他的想法得到了他的好友歷史學家劉恕的贊同和支持，於是在嘉佑年間，司馬光便在公事之餘開始編寫《通志》。
治平三年（1066年）司馬光將寫好的《通志》進獻給英宗皇帝，英宗看後，非常滿意，要他繼續寫下去，並下詔設置書局。
司馬光為編書，常常廢寢忘食，當時他的侍從只有一個老僕，晚上他叫老僕先睡，自己則寫書到半夜才就寢，凌晨就又起來點燈繼續寫書，每天如此。到天亮後就到屋裡向其兄請安，說完話就又回到自己寫書的小閣。當時他在洛陽買的房子僅供遮蔽風雨，由於夏日酷熱難當，他就請匠人在家中挖地丈餘，以磚砌成地室以避暑，此舉被京城戲稱為「王家鑽天，司馬入地」。
歷時十九年書成之後，司馬光自言：「臣之精力，盡於此書。」又說希望該書能讓皇帝「鑒前世之興衰，考當今之得失，嘉善矜惡，取是舍非，足以懋稽古之盛德。」神宗言其書「博而得其要，簡而周於事」。
司馬光在洛陽編書的十五年，老百姓依然將他視為真宰相，由於受到老百姓的愛戴，當時即便是田夫野老、婦人孺子都認得他。
神宗駕崩時（1085年），司馬光趕赴朝廷，衛士看見他都以手加額說：「這就是司馬相公。」在京城所到之處，京都之人迭足聚觀，都視他為宰相，道路堵塞連馬都無法前進，百姓求司馬光不要回洛陽，留下來輔佐皇帝，讓百姓得以活命。司馬光拜謁當朝宰相，有人爬到屋頂上窺瞰，宰相府的人上前阻止，對方說：「我不是來看你家主人，是想見識司馬相公的風采啊！」呵叱不退，結果屋瓦都被踩碎，樹枝被踩斷。
哲宗即位後，太皇太后臨政，派遣使者去問司馬光應該先做什麼事，司馬光回答要「開言路」。因此上疏者上千。
後太皇太后從新任命司馬光為尚書左僕射（相當於宰相），當時宋朝的外患遼國和西夏的使者來到中國首都一定會向他問候，同時告訴他們守邊疆的官吏說：現在宋朝的宰相是司馬光，不要隨便生事。司馬光用心朝政，不舍晝夜，有賓客見他身體衰弱，以諸葛亮吃的少又事情繁重的事來勸告他，他回答說：「死生，命也。」還是一樣勤於政事。到病得不省人事時口中都還在喃喃說著朝廷天下的事。
《宋史》記載司馬光「孝、友、忠、信、恭、儉、正、直。居處有法，動作有禮」。在洛陽的時候，每次到夏縣必定會去探望他的哥哥司馬旦，那時司馬旦將近八十歲，他侍奉司馬旦有如嚴父，而又保護照顧他如嬰兒。
司馬光對於物質看的很淡，一輩子都惡衣菲食，為官四十餘載，雖然官至宰相，卻只有薄田三頃，妻子死後，無錢安葬，只好賣地以置棺。
元佑元年（1086年）九月，司馬光病逝，終年六十八歲，朝廷贈以「太師」、「溫國公」等稱號，派專員扶靈柩返夏縣安葬，謚「文正」。京師的百姓放下生意去弔唁他，有人賣衣服把錢拿來做奠儀。到他安葬的時候，百姓哀悼他有如哀悼過世的親人，嶺南封州一帶的父老都相偕來祭拜，到處都有人畫他的畫像祭拜，吃飯前都要祝禱。
司馬光死後，百姓對他依然推崇。公元1107∼1110當時宋朝傳至徽宗，宰相蔡京擅政，視司馬光、蘇東坡、程頤、王獻可等賢人君子共一百二十人為姦黨，並奏請皇帝批准，要把「姦黨」的名字刻在端禮門的大石碑上面。當時被召去刻字的長安石工安民推辭說：「我是愚人，不知道立碑的用意，但是像司馬相公這樣的人，海內外都說他正直，現在卻說他姦邪，我不忍心刻字。」官府對他的說法很生氣要治他罪，安民哭泣的說：「我是供差遣的人，不敢推辭，但請讓我不要將我的名字安民二字刻在碑文後，怕得罪了後代。」聽者都感到無比羞愧。
