Fue fundado en el año 1903 en la ciudad de Pirmasens con el nombre TV Pirminia Pirmasens como un club multideportivo que incluía una sección en gimnasia, aunque su sección de fútbol se declaró independiente en 1914.
Tomaron su nombre actual en el año 1925 y es uno de los pocos equipos que utilizaron en su nombre el término alemán Klub en lugar del término inglés Club y al principio fueron un equipo amateur, iniciando en la Kreissliga Saar en 1919, y al año siguiente pasaron a la Kreissliga Pfalz.
Al terminar la guerra, formaron parte de la Oberliga Südwest, la cual ganaron en 3 ocasiones y fueron subcampeones en otras 2, lo que lo volvió un equipo popular y debieron mudarse al Ludwigshafen, estadio para 65.000 espectadores.
Ascendieron a la Regionalliga Süd (III) en 2006/07, año en que sorprendieron eliminando en la primera ronda de la Copa de Alemania al SV Werder Bremen en penales, pero desde 2014 juegan en la Regionalliga Südwest.
Estas son las temporadas del club desde 1999:[1][2] Patrick Fischer Ronny Fahr Plantilla en la web oficial