SM U-3 fue el tercer submarino alemán creado por el Imperio Alemán en su historia y el primero de dos submarinos de su clase. El barco fue construido por Kaiserliche Werft Danzig y fue botado el 27 de marzo de 1909.
El 17 de enero de 1911, el U-3 se hundió cerca del puerto de Kiel en la bahía de Heikendorfer debido a que una válvula del conducto de ventilación no estaba cerrada. Toda su tripulación de 30 hombres fue rescatada por SMS Vulkan mediante un tubo lanzatorpedos. Entre la tripulación salvada se encontraba Otto Weddigen , el posterior comandante del U-9 y Paul Clarrendorf, el comandante del U-boot-Abnahme-Kommando en Kiel, que reclutó tripulaciones de submarinos.
El U-3 comenzó su carrera en la Primera Guerra Mundial como barco de entrenamiento del 1 de agosto de 1914 al 11 de noviembre de 1918. El 1 de diciembre de 1918, el barco rendido estaba siendo remolcado a Preston para ser desmantelado cuando se hundiera. A diferencia de los dos primeros diseños de submarinos, el tercer diseño estaba equipado con un cañón de cubierta SK L/40 de 5 cm (2,0 pulgadas) .