美國直到1980年才有了正式的教育部。在這之前，聯邦政府中有一個叫「健康、教育和福利部」的部門，教育是它的一個分部。1979年10月17日，卡特總統簽署法令，將「教育部」與「健康和人道服務」分開。次年5月4日，教育部正式開始運作。教育部是所有內閣級部中最小的。1995年，僱員約5000 人，與農業部的10萬僱員或國防部的80萬僱員相比，簡直不算什麼。當時美國有7000萬人從事教育工作，教育經費是500億美元，教育部的款項支配只佔其中的8%，美國的大部分教育經費來自地方稅收。
1867年，美國曾設有一個類似教育部的機構，但壽命不長，一年後就降格成為一個「辦事處」。1979年設部，在此期間的111年中，美國不曾有過一個專管教育的「部」。聯邦政府沒有專門的教育部，不等於沒有管教育的政府部門，更不等於沒有教育。美國的教育是由公民社會主導，而不是由政府權力管理或管制的。美國教育發生巨大變革的時代是19世紀初，當時根本就沒有教育部，變革是在州裡由社會的自主、自治、自理力量推動的。
1837年，教育改革推動者曼恩(Horace Mann)被任命為馬薩諸塞州教育秘書，他走遍全州，到處演說，推動免費公立學校，讓原本在家學習的學生到學校，不光學習知識，而且學習公民習慣。 1821年，紐約州Troy市的市民要求教育家愛瑪·威拉德（Emma Willard）建立第一所女子大學，到1872年在校學習的女生總數多達12000名。1837年，俄州的Oberlin學院成為美國第一所男女混合的大學。這所大學是「第二次覺醒運動」的長老會教士們創立的。1829年，豪威（Samuel Gridley Howe）建立了美國的第一所盲校。1930年代，哈佛和達特茅斯學院等長春籐大學開始招收黑人學生。
在美國，推動教育改革和發展的不是官僚，而是有社會抱負、公民理想的啟蒙者、知識精英、教育家。同時，民選的立法機構也發揮了很大作用。美國教育的重大政策都是在國會中推動的，如二戰後幫助退伍軍人入學的「退伍軍人權利法案」和1958年為加強國防科學（與蘇聯進行太空競爭）的「國防教育法案」。
1960年代的民權運動，使得教育更注重社會公正，更重視弱勢群體。1965年通過的「中、小學教育法案」配合約翰遜總統提出的「向貧困宣戰」計畫，設立了一系列幫助經濟和文化弱勢兒童的教育計畫，國會為此立即撥款1億美元。福特總統期間(1974-1977)，國會又通過「公共法94-142」，規定3 至21歲的殘障兒童和成人必須能在「最不受限制的環境下」接受教育，並作出了許多具體規定。卡特總統期間(1977-1981)設立教育部，其職責就是落實公民權利的教育政策和為有關教育項目撥款。
一直到今天，美國教育部不管考試，不管升學，不管評估，不管具體教學，不管政治思想。它自述的功能只有短短的一句話:「設立與教育有關的聯邦資助項目、執行與私人和公民權利有關的聯邦法規。」這兩項工作都是服務性的，關係到教育的兩個關鍵條件:錢和法規，尤其是與公民權利有關的法規。例如，大學前(K- 12)教育是每個公民的權利，不能因為貧富、城鄉的差別有任何損害，入學機會應當公平，不允許入學分數線特別優待某地方的考生，學費資助標準應當公平，保障家長為子女選擇不同學校的權利(如K-12教育有公立學校、私立學校、家庭學校、私助公立(charter)學校，等等)，維護教育中立，不能在學校進行宗教、政黨宣傳，等等。
從1980年代到1990年代，共和黨的總統競選一直以取消教育部為主要訴求，理由是聯邦政府無權干涉各州和社會的教育事務。里根於1980年競選總統時曾允諾要取消教育部，當選之後，由於民主黨多數的眾議院反對未能實現。1996年，共和黨的鮑勃·多爾在總統競選時，也承諾要取消教育部。2000年，共和黨的競選決策會議再次通過了取消教育部的決定。但小布希就任總統後並沒有延續這一政策，不僅是因為他重視發展教育，更因為這麼多年來，教育部推動公民權利和社會公正的工作已經得到了美國社會的認可。
