En 1864 se funda una asociación llamada 'Société Gymnastique la Gantoise', que tenía la tarea de promover la gimnasia.
Solo en 1900, los estudiantes del College of Melle, que es un lugar cercano a Gante, fundaron una sección de fútbol.
Los partidos se practicaban en Carpentierplein, que estaba situado en el cruce de Kortrijksesteenweg, Clementinalaan, Oostendestraat y Astridlaan.
La temporada siguiente, La Gantoise quedó segunda, esta vez a tres puntos de los campeones.
En 1964 ganó la Copa de Bélgica, que fue la primera victoria del equipo en un torneo importante.
Debido a su victoria en la copa, se convirtió en el primer equipo belga en participar en la Recopa de Europa.
En 1967, el club descendió una vez más, después de jugar tres décadas en Primera División.
Descendieron a Segunda División seis jornadas antes del final de la temporada, tras la derrota ante el Club Brujas.
Gante había terminado último y no pudo asegurar su ascenso a Segunda División en la ronda final.
En 1984 volvió a ganar la Copa de Bélgica, y durante ese período el equipo jugó en competiciones europeas cuatro veces.
La temporada siguiente, Gante jugó la Copa Intertoto de la UEFA, donde llegaría a las semifinales ante el PSG.
Las siguientes temporadas, los resultados de la liga variaron entre los lugares más bajos y los cuatro primeros puestos.
Trond Sollied, el entrenador noruego que había tenido mucho éxito siete años antes, lo sucedió.
Bajo su dirección, el KAA Gent jugó su tercera final de Copa, en la que perdió frente al Anderlecht.
Gent quedó emparejado en el Grupo H con el campeón ruso Zenit San Petersburgo, el equipo español Valencia y el Lyon francés.
Para clasificarse para las eliminatorias de la Champions League, Gent necesitaba una victoria contra el líder de grupo, el Zenit, ya que podría clasificarse aunque el Valencia ganara en Lyon gracias a su gol a domicilio.
En el partido de ida en Bélgica, Gent cayó por 2-3 y en la vuelta en Wolfsburg, terminó 1-0 para los alemanes, poniendo fin al sueño europeo del Gante.