Originalmente estas tierras estaban sujetas a la jurisdicción de varias diócesis: Brandeburgo, Havelberg, Cammin, Lebus, Schwerin y Roskilde.

Berlín pertenecía a la diócesis de Brandeburgo y ya en el siglo XIII contaba con tres iglesias parroquiales: San Nicolás, la más antigua, San Pedro y Santa María.

El catolicismo fue extirpado con medidas restrictivas, especialmente durante el principado de Federico Guillermo I de Brandeburgo (1640-1688), quien también prohibió la práctica privada del catolicismo en Berlín y en toda la región; y aunque había capillas católicas en las embajadas de Austria y Francia, prohibió a los berlineses entrar en ellas y participar en las ceremonias católicas que allí se desarrollaban.

En 1701 el vicario apostólico de las Misiones del Norte, Agostino Steffani, pudo celebrar una misa en Berlín, pero no logró que se reconociera su jurisdicción sobre la ciudad; al año siguiente informó a la Congregación de Propaganda Fide que había unos 900 católicos en la capital prusiana.

Al final de la Segunda Guerra Mundial, la diócesis se vio dividida en dos por la nueva frontera estatal, la línea Oder-Neisse, que dividía Polonia y Alemania.