美国直到1980年才有了正式的教育部。在这之前，联邦政府中有一个叫“健康、教育和福利部”的部门，教育是它的一个分部。1979年10月17日，卡特总统签署法令，将“教育部”与“健康和人道服务”分开。次年5月4日，教育部正式开始运作。教育部是所有内阁级部中最小的。1995年，雇员约5000 人，与农业部的10万雇员或国防部的80万雇员相比，简直不算什么。当时美国有7000万人从事教育工作，教育经费是500亿美元，教育部的款项支配只占其中的8%，美国的大部分教育经费来自地方税收。
1867年，美国曾设有一个类似教育部的机构，但寿命不长，一年后就降格成为一个“办事处”。1979年设部，在此期间的111年中，美国不曾有过一个专管教育的“部”。联邦政府没有专门的教育部，不等于没有管教育的政府部门，更不等于没有教育。美国的教育是由公民社会主导，而不是由政府权力管理或管制的。美国教育发生巨大变革的时代是19世纪初，当时根本就没有教育部，变革是在州里由社会的自主、自治、自理力量推动的。
1837年，教育改革推动者曼恩(Horace Mann)被任命为马萨诸塞州教育秘书，他走遍全州，到处演说，推动免费公立学校，让原本在家学习的学生到学校，不光学习知识，而且学习公民习惯。 1821年，纽约州Troy市的市民要求教育家爱玛·威拉德（Emma Willard）建立第一所女子大学，到1872年在校学习的女生总数多达12000名。1837年，俄州的Oberlin学院成为美国第一所男女混合的大学。这所大学是“第二次觉醒运动”的长老会教士们创立的。1829年，豪威（Samuel Gridley Howe）建立了美国的第一所盲校。1930年代，哈佛和达特茅斯学院等长春藤大学开始招收黑人学生。
在美国，推动教育改革和发展的不是官僚，而是有社会抱负、公民理想的启蒙者、知识精英、教育家。同时，民选的立法机构也发挥了很大作用。美国教育的重大政策都是在国会中推动的，如二战后帮助退伍军人入学的“退伍军人权利法案”和1958年为加强国防科学（与苏联进行太空竞争）的“国防教育法案”。
1960年代的民权运动，使得教育更注重社会公正，更重视弱势群体。1965年通过的“中、小学教育法案”配合约翰逊总统提出的“向贫困宣战”计划，设立了一系列帮助经济和文化弱势儿童的教育计划，国会为此立即拨款1亿美元。福特总统期间(1974-1977)，国会又通过“公共法94-142”，规定3 至21岁的残障儿童和成人必须能在“最不受限制的环境下”接受教育，并作出了许多具体规定。卡特总统期间(1977-1981)设立教育部，其职责就是落实公民权利的教育政策和为有关教育项目拨款。
一直到今天，美国教育部不管考试，不管升学，不管评估，不管具体教学，不管政治思想。它自述的功能只有短短的一句话:“设立与教育有关的联邦资助项目、执行与私人和公民权利有关的联邦法规。”这两项工作都是服务性的，关系到教育的两个关键条件:钱和法规，尤其是与公民权利有关的法规。例如，大学前(K- 12)教育是每个公民的权利，不能因为贫富、城乡的差别有任何损害，入学机会应当公平，不允许入学分数线特别优待某地方的考生，学费资助标准应当公平，保障家长为子女选择不同学校的权利(如K-12教育有公立学校、私立学校、家庭学校、私助公立(charter)学校，等等)，维护教育中立，不能在学校进行宗教、政党宣传，等等。
从1980年代到1990年代，共和党的总统竞选一直以取消教育部为主要诉求，理由是联邦政府无权干涉各州和社会的教育事务。里根于1980年竞选总统时曾允诺要取消教育部，当选之后，由于民主党多数的众议院反对未能实现。1996年，共和党的鲍勃·多尔在总统竞选时，也承诺要取消教育部。2000年，共和党的竞选决策会议再次通过了取消教育部的决定。但小布什就任总统后并没有延续这一政策，不仅是因为他重视发展教育，更因为这么多年来，教育部推动公民权利和社会公正的工作已经得到了美国社会的认可。
