Desde el principio de su carrera, estuvo involucrado con las primeras investigaciones sobre el vuelo supersónico y las naves propulsadas por cohete.
Trabajó para la National Advisory Committee for Aeronautics desde 1937 a 1958 y en su agencia sucesora, la NASA hasta que se retiró en 1973.
Hasta entonces, no había ninguna referencia para pilotos o fabricantes de ese estilo.
Cuando se creó la NASA, Gilruth fue jefe del Space Task Group, cuyo objetivo era poner a un hombre en el espacio antes que la Unión Soviética.
Pronto, nacería el Programa Apolo, y Gilruth fue nombrado presidente del centro de la NASA que llevaría a cabo esta tarea, el nuevo Manned Spacecraft Center o MSC -ahora llamado Johnson Space Center.