教育行政管理体制，取决于对教育的领导关系，是教育立法的重要内容。在一些国家中，多采取了中央集权与地方分权两种形式。英国采取前一种形式，美国则采取后者，日本趋于折衷。两者各有利弊，前者决策取决于中央，难以发挥地方的特点，影响地方积极性的发挥。后者，权力过于分散，易于造成中央领导权的失控以及地方之间关系的难以协调。

因此，近年来，由于教育改革与政策的调整，一些国家为克服两者的弊端，已渐趋采取均权化的作法，在对教育的领导关系上保持中央与地方均权化，即中央教育行政与地方一般保持均衡的状态。

采取地方分权的美国，1979年从其卫生福利教育部分出教育，独立设置了教育部，并通过《联邦教育部组织法》增强了对联邦教育部的管辖权。在《2000年教育规划》中，提出了联邦政府的各州州长负责组织“社区”办学的办法，并认为组织“社区”力量是办好教育的关键。

取其折衷的是日本，1948年公布与推行了教育分权制的《教育委员会法》，决定由该会（都、道、府、县、市、町）实行独立的教育行政。在其后的1956年，虽撤销了《教育委员会法》代之以加强中央集权的《地方教育行政管理法》，削弱了教育委员会的分权制的权限，但其后不久又根据“由集权到分权，由控制到尊重自由与自律”的指导原则，再度规定发挥地方委员会的作用。

我国教育行政管理体制，采取了国务院与地方政府分级管理、分工负责的原则，根据《教育法》的规定，中等和中等以下的教育在国务院的领导下，由地方人民政府管理，高等学校则由国务院和省、市、自治区人民政府管理。国务院统筹规划、协调管理全国的教育事业，县以上各级人民政府主管本地区的教育工作。关于高等学校的管理体制，将遵循“共建、调整、合作、合并”的方针，争取在2000年或稍长时间内，形成中央和省级人民政府两级管理，分工负责，在国家宏观管理的控制下，形成以省级政府管理为主的条块结合的高等学校教育管理体制，国务院则管理由国务院确立的重点高等学校。