«Después, como en tantos otros sitios de pequeña población, el haber varios conjuntos, en donde, como en Segovia, la afición todavía no era tan grande como para estar repartida y dar apoyo por igual a los diferentes clubs, alguien sugirió la idea de crear un solo club potente que representase aún más dignamente al fútbol segoviano.
Pero un hecho clave en los inicios del club acontecería en 1934, cuando se federaría a pesar de los riesgos que conllevaba dicha decisión.
También alternaba dichos campeonatos con partidos amistosos, como el que jugó en 1934 frente al Ávila F. C.. 4-0 para los azulgrana en su primer enfrentamiento.
Cuando el equipo era eliminado, la temporada se saldaba jugando partidos amistosos que pudieran seguir entreteniendo a los aficionados.
Ganaron los madrileños por 0-4, en un partido en el que la Segoviana dio buena imagen pese al resultado.
Pusieron combatividad en la lucha contra un enemigo infinitamente superior, que además actuó rápido y compenetrado, ligando buen fútbol durante el constante dominio que sostuvieron a través del encuentro (…) En la Gimnástica, que está actualmente en la formación definitiva de su conjunto, apreciamos un gran valor para el porvenir, en su guardameta Calderón (…) ABC 4-IX-1944» En la temporada 1944-45 la Gimnástica Segoviana se estrenó en la Tercera División.
Durante la siguiente campaña, la 1945-46, la Segoviana siguió en Tercera División, en el Grupo VIII, pero con los mismos rivales.
Los aficionados, agrupados en torno a los escasos aparatos de radio que entonces había, siguieron masivamente las incidencias del encuentro.
Tras una temporada desastrosa, quedó última en la clasificación, pero consiguió salvar la categoría frente al Alas, campeón de Regional.
La Gimnástica hubo de enfrentarse a una situación económica bastante angustiosa, quedando al descubierto incluso con la Federación.
Lo más relevante de esta temporada fue el primer partido del equipo azulgrana jugado sobre hierba.
Uno de los momentos más aciagos en la historia del club sucedió durante las temporadas 1948-49 y 1949-50, en el que la delicada situación económica «ahogó» a la Gimnástica Segoviana.
La Federación se mostró inflexible, exigiendo las 20 000 pesetas y un aval bancario por el valor del resto, lo que no pudo ser atendido.
Para la temporada 1050-51 se preparó una reestructuración del fútbol español, ampliándose a cinco grupos de dieciséis equipos la Tercera División.
El resultado de la campaña fue discreto, pero comenzaron a salir jugadores que apuntaban buenas maneras.
En el acta arbitral figuraba la alineación, formada en su habitual 3-2-5 por: Callejo; Antón, Polo, Costa; Miranda, Domingo; Navajo, Maíz, Herrera, Saugar, Valentín.
Dio el partido al Europa y, además, quitó otros dos puntos a la Gimnástica.
El equipo no supo recuperarse del golpe y acabó cerrando la clasificación a final de temporada.
Retornó a Tercera División en la temporada 1961-62 por la puerta grande: como equipo campeón en Regional y con un superávit de 5183 pesetas.
Para ello formó la Gimnástica B para desplazarla por los pueblos de la provincia y creó el equipo juvenil.
No faltaron quienes, ante la buena marcha del equipo, temían la posibilidad de ascender, dudando que fuese económicamente rentable jugar en Segunda División.
Como la situación del club y los rivales que visitarían El Peñascal no auguraban una buena recaudación en taquilla, se adoptó una medida excepcional en la historia del club, que siempre había planeado en el ambiente: se prescindió de jugadores madrileños, que resultaban caros, y se compuso el equipo íntegramente con futbolistas de la cantera para la temporada 1973-74.
Todo se puso en contra y la Gimnástica Segoviana tuvo que jugar la promoción frente al Ávila.
En la temporada 1981-82, tras doce años en el infierno de Regional (8 en Primera y 4 en Preferente), la Gimnástica Segoviana abandonaría esta categoría para siempre.
La Gimnástica ascendió por primera vez a la Segunda División B en el año 1999 aunque descendió aquella misma temporada.
El club tuvo que esperar otros 12 años para regresar a Segunda B, en un recordado encuentro final de playoff en Logroño contra la SD Logroñés en el año 2011, bajo la dirección de Francisco Maroto y con un triplete del defensa central Anel.
La historia se repite y la Gimnástica desciende automáticamente a Tercera División de España, donde la situación económica del club empeora notablemente.
Acogió los colores azul-granate cuando el Fútbol Club Barcelona vistió de forma gratuita al equipo durante varias temporadas.
[15] Los anteriores estadios del equipo fueron: Ramsés Gil Ricardo de Andrés Pastor Ignacio Gonzalo Santa Clara "Nacho" Alberto López Moral Juan Antonio Sánchez del Estal Aurelio Navarro López "Lele" Marco Antonio Velasco Ballestero Jaime Gómez Agudo Utilleros José Luis Gómez Sánchez "Josito" Marco Tejedor Serrano Javier Rincón Fuentetaja "Niño Gacela" * en cursiva jugadores del equipo juvenil Plantilla en la web oficial
Otras peñas del club son: "Dani Calleja", "El gol psicológico", "Los del Var", "Segorenzos", "Los Melonares" o la "Peña Gimnástica de Madrid" En la temporada 2022-23 en segunda federación el club cuenta con más de 1000 socios La Gimnástica Segoviana C. F. "B" jugó varias temporadas en Regional, pero el club decidió en 2014 no inscribir al equipo debido a los numerosos gastos que ocasionaba desplazarse por toda la geografía de Castilla y León, y la mala situación económica del club de la capital del acueducto.