Se cree tradicionalmente que la primera sede de la diócesis fue la ciudad de Ruessium, hoy Saint-Paulien, y que posteriormente con san Evodio (llamado Vosy en francés) se trasladó a Anicium, hoy Le Puy-en-Velay.Las excavaciones arqueológicas y los estudios posteriores llevados a cabo en el siglo XX han desvirtuado los datos tradicionales: en 1957 el arqueólogo Gounot escribió que «la arqueología actual no puede registrar ningún rastro seguro de la existencia de estos personajes (san Jorge y sus sucesores) ni tampoco de una civilización paleocristiana o merovingia en Saint-Paulien".En el siglo VIII ya existía la romería a Nuestra Señora del Puy, que fue el destino de peregrinación francesa más importante durante la Edad Media.Hacia el año 1000 el papa Silvestre II sometió inmediatamente la diócesis de Le Puy a la Santa Sede.En 955 el emperador Lotario IV confirmó al obispo Godescalc el privilegio, concedido a Adalardo en 923, de administrar justicia, acuñar moneda y gestionar el mercado.En 1652 el obispo Henri Cauchon de Maupas du Tour fundó el seminario diocesano, confiando la dirección y la enseñanza a los padres sulpicianos.En vísperas de la Revolución francesa la diócesis contaba con 137 parroquias, divididas en tres arciprestazgos: Monistrol, Saint-Paulien y Solignac.
