張作霖自幼家貧，無力就學，僅念了三個月的私塾。但就是這麼一位在老百姓眼中胸無點墨、窮兵黷武的人物，後來竟然高度重視教育。在其當權時期，東北的教育取得了顯著的成績。
上書袁世凱
1915年2月，張作霖上書大總統袁世凱，專門指出奉天教育存在的種種弊端，並提出了整頓的措施，建議對學校加強管理。其時，張作霖僅是奉天城內小小的二十七師師長，雖說握有重兵，但無論如何與教育是挂不上邊的。
張作霖在條陳中首先指出，奉天辦學存在兩大弊端：一在靡費過多，得不償失；二是教授不得其人，僅是坐擁虛名，缺少實際才幹。另外，他還提到，辦學偏厚於高等小學，忽視初等小學，使師範畢業者不願到初小就教。初小既乏良師，而畢業者亦無從升學。
張作霖的條陳馬上引起教育部、國務院乃至袁世凱的重視，袁命國務院將該條陳轉交教育部查照。
對於第一條，教育部「已於本年二月十九日通令各省斟酌地方財力，體察人民生活狀況，竭力撙節，以杜虛糜」。對於第二條，教育部批道：「現在小學之必待整頓，亦誠刻不容緩。整頓之法，當從力節靡費，嚴定教員、管理員資格入手。庶使不能勝任之教員、管理員得以大加淘汰，於教育前途乃有澄清之望。」
4月9日，教育部訓令各省民政長遵照辦理。教育界聞之歡欣鼓舞，卻不知此訓令源自於一遠在東北的赳赳武夫。
種種舉措
1916年，張作霖上臺伊始，即在一份教育條陳上批示：「學務為造就人才之所，振興國家之基，關係最重，而奉天又處特別地位，若不從整頓教育入手，更無以希望。」看到省長如此重視教育，已停會兩年多的奉天省議會馬上重新開會，專門研究奉天的教育問題。會後，便將議案交給了張作霖。對於這一議案，張作霖進行了仔細的研究，並責令省署教育科制訂整頓辦法。
此後，張作霖凡遇奉天學務方面的事情，都積極推行：支持辦學，嚴定經費，頒行法規，使奉天教育基本上進入了正常發展的軌道。
教育經費的短缺一直是制約奉省教育發展的主要因素。對此，張作霖認識深刻，他於1916年10月28日，訓令各道尹重申省令，嚴責各縣知事增加教育經費，要求各縣每年的教育經費務佔全縣歲出總數的40％。此外，為防止挪用、侵佔教育經費的情況發生，張作霖派專員赴各縣調查教育經費的去向情況。
視學是「策進一省學務之人」，在教育發展中起著舉足輕重的作用。為了嚴格視學制度，防止積弊產生，1917年7月6日，張作霖再次訓令各道尹，在暑假期間完成各縣視學調整撤換工作，不得連任。此舉有利於杜絕徇私舞弊。1918年3月9日，他還訓令視學不得受人供給，如遇招待應酬之事，「固宜婉言謝絕，藉保廉潔」。
除以行政命令加強教育管理外，張作霖還懂得運用法律武器來完善教育管理。在1919年10月，奉天省教育廳成立之前，由張作霖親自過問而制定出來的關於奉天教育的地方法規就有二十多項，涉及教育行政，教育視導，教育經費，初、中、高等教育，師範、職業，社會教育等各個方面。這點恐怕是其他北洋軍閥所無法比擬的。
大筆一揮：「准」
1916年12月6日，奉天公立工業專門學校校長孫其昌、奉天省立第二中學校長董寶麟、奉天省城第一高等小學校長魏福錫呈文給張作霖，建議派員赴吉、黑兩省，協商聯合向教育部爭取設立東三省區域國立高等師範學校事宜，以培養中等以上教育人才。張作霖看完，當即大筆一揮簽了個「准」字，並立即派孫其昌前往吉、黑促成此事。
1917年1月9日，張作霖以個人名義致電教育部，請設高等師範學校。電中將與吉黑兩省商議的結果作了詳述，提到兩省已同意，協款三萬元，並請教育部「先行允准」。但教育部以「於國立學校計畫有關」為由，未批准。3月17日，張作霖又直接給教育總長發去咨文，進一步強調在奉省設立高等學校的必要性，並表達了舉辦高師的迫切心情。由於張作霖的積極爭取，教育部初步同意將計畫之內的最後一所國立高等師範學校設在奉天。
1918年12月1日，奉天國立高等師範學校正式成立。開學典禮上，奉天政務廳長史紀常前往宣讀了張作霖的祝詞。
如今的師範類院校學生免收學費，每月還有補助。但卻很少有人知道，早在張作霖時期，奉天的師範學校就已免收學費了，而且還發給伙食費，這些費用全由奉天省政府埋單。人們常說，沒有免費的午餐，可是奉天的師範學校不僅有免費三餐，而且標準還不低。例如奉天省立第一師範學校，學生伙食早餐為大米粥、咸菜；中午大米飯、四菜一湯，兩葷兩素；晚飯四菜一湯，皆為素菜。星期六午餐改善伙食，有罈子肉、木須肉、燒黃花魚、燴海參等。另有其他如瀋陽高等師範學校，伙食也是非常豐盛的。
此外，為確定奉省師範教育的施教方針，張作霖於1918年2月15日特召集全省師範校長來奉天，使其交流經驗，「互換知識」，謀師範教育日臻完善。會議形成議案近二十個，張作霖是一一審閱、下發，令各地方議復並遵照執行。
興辦東北講武堂
奉軍的老班底，大部分來自綠林，沒有受過正規的教育，既無政治遠見，又無軍事素養，打仗時僅憑一股蠻勁。這樣的隊伍小打小鬧還可以，卻無法適應張作霖興兵關內、逐鹿中原的政治要求。雄心勃勃的張作霖認識到：要想雄霸天下，必須培養軍事人才。
1915年，時任二十七師師長的張作霖為「集合吾旅團營軍官研究戰事，訓練指揮造就將材」，呈請東三省總督趙爾巽批准，借用原講武堂舊院落已停辦的陸軍小學堂的房屋器具，設立隨軍講堂，培養青年軍官。1918年，針對奉軍「衝鋒對壘勇敢有餘，決策指揮學術不足」的現實情況，張作霖決定重新開辦講武堂，並追加大洋42218.75元為講武堂臨時開辦費和經費，其校址就在小東門外。此後，張作霖不斷加大對講武堂的投入，1922年達到了現大洋 146765元。
東北講武堂設備完善，教官也屬於一流，故與保定陸軍軍官學校、廣州黃埔軍官學校、雲南陸軍講武堂並稱「中國四大軍官學校」。為加強對講武堂的監管，張作霖自任堂長。為引起奉系軍官對講武堂的重視，張作霖還規定：奉軍中行伍出身的中下級軍官，一律必須進入講武堂學習。如果不能通過自身能力完成講武堂的學業將會被淘汰，職位將由軍校出身的軍官所取代。而新任命的中低級軍官，理論上必須是軍校出身。
從1918年－1928年，講武堂共辦了8期，畢業人數為3500餘名，成為奉系軍官的重要培養基地。
