Después de la ascensión el discípulo Addai (Tadeo de Edesa, uno de los setenta discípulos mencionados en el Nuevo Testamento) habría ido a Edesa y habría curado al rey, quien, por gratitud, se habría convertido al cristianismo, con toda su corte.

Hay muchas leyendas relacionadas con la fundación del cristianismo en Edesa, incluida la del verdadero retrato de Jesús (Mandylion), que el enviado de Abgar V habría llevado de vuelta a casa, que terminó en Constantinopla en el siglo X y que eventualmente llegaría en Roma.

La vitalidad cultural de Edesa pronto se manifiesta también en la comunidad cristiana, donde, entre fines del siglo II y principios del III, se extendieron algunas sectas gnósticas, como la de los marcionistas y los valentinianos.

Con el comienzo del siglo III, la comunidad cristiana se desarrolló aún más, gracias a la conversión del rey Abgar IX y su corte y el obispo Palout recibió la consagración de manos del patriarca Antioquía Serapión, un evento que une la Iglesia de Edesa con Antioquía y la Iglesia bizantina.

Según la única Notitia Episcopatuum del patriarcado de Antioquía que se conoce, la Notitia Antiochena que data de la segunda mitad del siglo VI y fue elaborada por el patriarca Anastasio de Antioquía (quien gobernó el patriarcado dos veces entre 559 y 570 y entre 593 y 598), Edesa tenía once diócesis sufragáneas: Birta (hoy Birecik), Constantina (hoy Viranşehir), Carras (hoy Harrán), Marcópolis (ruinas no identificadas cerca de Sinyar), Batne (hoy Suruç), Tell-Mahrê (ruinas cerca del arroyo Balik), Emeria (ruinas no identificadas), Circesio (hoy Al-Busayrah), Calinico (hoy Al Raqa), Dausara (hoy Qal'at Ja'bar), Nea Valencia (no identificada).

Según su biografía, se debe al obispo Rábula de Edesa, en la primera mitad del siglo V, la erradicación definitiva de las herejías arriana y gnósticas en su Iglesia.

El obispo Pablo, su firme defensor, se vio obligado a exiliarse en 522.

Así, en Edesa, todavía encontramos algunos obispos ortodoxos: Amazonio, que asistió al concilio ecuménico de 553; Tomás, que habría consagrado al patriarca de Antioquía Pablo; y tal vez Teodoro.

En 609 Edesa fue conquistada por primera vez por los persas de Cosroe II, que deportaron a muchos cristianos jacobitas a Persia e impusieron un obispo nestoriano (única Iglesia reconocida en el Imperio persa).

La ciudad más tarde fue tomada por el emperador Heraclio II (627-628), pero por un corto tiempo.

Continúa siendo asignada a un obispo, quien no es un obispo diocesano ordinario, pues no tiene ninguna jurisdicción sobre el territorio de la diócesis, sino que es un oficial de la Santa Sede, un obispo auxiliar, o la cabeza de una jurisdicción que es equivalente a una diócesis bajo el derecho canónico.