El club fue fundado con el nombre de Grimsby Pelham en 1878, cambió su nombre a Grimsby Town un año después y se mudó a su estadio actual, Blundell Park, en 1898.

El descenso del Grimsby Town en 2010 lo convirtió en el sexto club en haber competido en cada una de las cinco categorías principales del fútbol inglés (después de Wimbledon, Wigan Athletic, Carlisle United, Oxford United y Luton Town, y antes de Leyton Orient, Notts County y Oldham Athletic).

En 1954 se convirtió en el primer club inglés en contratar a un entrenador extranjero, el húngaro Elemér Berkessy.

El jugador con mayor cantidad de partidos disputados para el club es John McDermott, quien jugó 754 partidos entre 1987 y 2007, mientras que su máximo goleador histórico es Pat Glover, con 180 goles entre 1930 y 1939).

Su mayor logro ha llegado hasta la semifinal de la FA Cup (en dos ocasiones) Plantilla en la web oficial Football League Championship (2):1901, 1934.