Fue creado por el presidente Julio Argentino Roca vía decreto como organismo encargado de las políticas educativas para las escuelas nacionales.
Inicialmente, su jurisdicción era sobre los establecimientos ubicados en Capital Federal y los Territorios Nacionales, pero posteriormente se extendió a las escuelas creadas en todo el país.
Su primera autoridad máxima fue Domingo Faustino Sarmiento, quien ejerció el cargo de superintendente general entre 1881 y 1882.
Tras su renuncia, el organismo fue presidido por un cuerpo colegiado constituido por un presidente y cuatro vocales bajo la autoridad del entonces Ministerio de Justicia, Culto e Instrucción Pública.
El gobierno del organismo estaría a cargo de un superintendente general y nueve consejeros.
Desde su cargo Sarmiento intervino vigorosamente en defensa del impuesto a las herencias transversales, destinado a la educación pública, que había sido establecido por la provincia de Buenos Aires y todavía regía en la ciudad de Buenos Aires.
Los miembros del Consejo Nacional de Educación podrán ser reelectos.
Artículo 55º- Todos los miembros del Consejo conservarán su empleo durante cinco años, mientras dure su buena conducta y aptitud física o intelectual para el desempeño de su cargo.
El Consejo administra los fondos destinados a la educación común, debe elaborar su presupuesto y remitirlo en enero de cada año al Congreso.
57) Los artículos 66 a 69 disponen que el Consejo debe crear una biblioteca pública para maestros y promover la creación de bibliotecas populares por particulares o asociaciones permanentes, las cuales recibirán subvención estatal si cumplen determinadas condiciones.