Inicialmente estudió con las Hermanas de la Inmaculada Concepción en Ivrea, luego asistió a seminarios en Seveso, Monza, y Milán (donde obtuvo un doctorado en teología en 1926), y recibió un doctorado en letras de la Universidad Católica de Milán en 1932.
Recibió su consagración episcopal el 7 de diciembre siguiente del Cardenal Giovanni Battista Montini, con el Arzobispo Anacleto Cazzaniga y el Obispo Giuseppe Schiavini sirviendo como Co-consagradores .
Sentado en las Comisiones preparatorias conciliares para seminarios y universidades, Colombo asistió al Concilio Vaticano II (1962-1965), durante el curso del cual fue nombrado por el Papa Pablo VI para sucederle como arzobispo de Milán el 10 de agosto de 1963.
En el último cónclave, el cardenal enfermo obtuvo muchos votos como candidato de compromiso entre Giuseppe Siri y Giovanni Benelli, pero declaró que rechazaría el papado en el caso de su elección,[2] por lo que Karol Wojtyła fue elegido en su lugar.
Está enterrado bajo el pavimento del lado derecho de la nave frente al altar que contiene los restos del Beato Cardenal Schuster en la Catedral de Milán.