No se sabe la fecha de la erección la sede episcopal, pero por lo general es datada en el siglo III o siglo IV, cuando se tienen noticias del primer obispo, Zama.
En las luchas entre el Papado y el Imperio durante los siglos XI y XII y los años de gobierno de Federico Barbarroja, Bolonia permaneció fiel al papa, aunque a menudo el emperador consiguió obispos cismáticos opuestos a los obispos legítimos.
En 1088 se fundó la Universidad de Bolonia, que probablemente tiene su origen en antiguas escuelas episcopales y capitulares.
En 1306 Bolonia se levantó en armas contra el legado apostólico cardenal Napoleón Orsini; por lo tanto fue castigada con la excomunión y el interdicto.
En 1796 los franceses introdujeron un nuevo orden político en la ciudad, hostil a la religión.
La diócesis respondió mediante la intensificación de las instituciones educativas y caritativas.
Regresó a visitar la arquidiócesis los días 27 y 28 de septiembre de 1997, al concluir el XXIII Congreso Eucarístico Nacional, recibido por el cardenal Giacomo Biffi; en esta ocasión se realizó un gran concierto, en el que actuaron Bob Dylan, Lucio Dalla, Gianni Morandi y muchos otros artistas.
El domingo 1 de octubre de 2017, el arzobispo Matteo Maria Zuppi recibió al papa Francisco en visita pastoral a Bolonia para la conclusión del congreso eucarístico diocesano.
Seis arzobispos y obispos de la Iglesia de Bolonia fueron elegidos papas (Inocencio VII, Nicolás V, Julio II, Gregorio XV, Benedicto XIV y Benedicto XV), mientras que otros cinco papas (Gregorio XV y Benedicto XIV también) son hijos de familias de Bolonia (Honorio II, Lucio II, Gregorio XIII, Inocencio IX y Pío V).