Según la tradición petrina, muy difundida en toda Apulia, el apóstol Pedro, en viaje a Roma, desembarcó en Tarento, fundó allí la primera comunidad cristiana y consagró a Amasiano como primer obispo.

Otro obispo atribuido por la tradición a Tarento fue san Cataldo, patrono de la arquidiócesis, que estudios recientes sin embargo sitúan entre los siglos VII y VIII.

[nota 1]​ La diócesis está documentada con certeza a finales del siglo V.

[3]​ Entre los siglos VII y VIII, tres obispos de Tarento participaron en los sínodos romanos.

La ciudad de Tarento conoció sucesivas invasiones: fue conquistada primero por los godos, luego por los bizantinos, tomada por los lombardos y ocupada durante cuarenta años por los sarracenos.

En el siglo XV se establecieron allí los franciscanos (menores observantes), los dominicos y los agustinos.

En el próximo siglo tendremos también los Mínimos, los hospitalarios y los carmelitas descalzos.»[4]​ La provincia eclesiástica de Tarento está documentada a partir del siglo XII; originalmente incluía las diócesis de Castellaneta y Mottola.

[4]​ Entre los siglos XIX y XX la arquidiócesis fue dirigida por otras grandes figuras del episcopado: Giuseppe Rotondo (1855-1885), quien, no aceptando la unidad de Italia, se exilió primero a Nápoles y luego a Roma; Pietro Alfonso Iorio (1885-1908), quien introdujo la Acción Católica en la diócesis; Orazio Mazzella (1917-1934), quien defendió firmemente las instituciones católicas contra los abusos del gobierno fascista.

Guglielmo Motolese gobernó la sede de Tarento durante treinta años, primero (1957) como administrador apostólico sede plena, a causa de la enfermedad que afectó al anciano arzobispo Ferdinando Bernardi, y luego como arzobispo.