En 1972 compitió en la primaria demócrata para buscar obtener otro escaño en el Senado por Texas pero perdió contra Barefoot Sanders.

Inició sus estudios en la Academia Militar de los Estados Unidos en West Point en 1919 pero la abandonó para convertirse en profesor.

[11]​ La primera vez que Yarborough compitió para un puesto de elección estatal resultó en tercer lugar de la elección primaria del Partido Demócrata para fiscal general del estado en 1938 contra el vicegobernador en funciones.

Shivers evidenció a Yarborough como un integracionista que era apoyado por los comunistas y los unionistas.

Yarborough se quedó cerca de quitarle la candidatura demócrata a Shivers.

[10]​ En 1956, Yarborough compitió en la Primarias del Partido Demócrata para ser candidato a gobernador contra el senador Price Daniel.

Esto generó la creencia entre Yarborough, sus seguidores de que la elección fue fraudulenta debido a que hubo votación irregular en el este del estado y en realidad Yarborough había ganado por 30 mil votos de ventaja.

Sin una segunda vuelta requerida, solo necesitaba una mayoría simple de votos para ganar.

Finalmente Yarborough ganó la elección especial con 38 por ciento del voto para unirse a su amigo Lyndon B. Johnson en la representación de Texas el Senado.

Ya en el cargo, Ralph Yarborough se diferenció del resto de los senadores del sur puesto que no apoyó al Manifiesto Sureño que se oponía a la integración racial y apoyó las metas demócratas nacionales de más fondos para la atención médica, la educación y el medio ambiente.

En cambio Blakley fue nombrado senador de nuevo en 1961 y compitió en otra elección especial, sólo para ser derrotado por el republicano John Tower.

Durante su primer periodo completo, Yarborough trabajó para un proyecto de ley firmado por el presidente John F. Kennedy para designar a Padre Island como una costa nacional.

Según el biógrafo de Johnson, Robert Caro, la mañana siguiente en Fort Worth, Kennedy intervino directamente con Yarborough, dejándole en claro que si valoraba su amistad, viajara con Johnson cuando la comitiva estuviera en Dallas.

Entonces, durante el vuelo corto desde Fort Worth, Kennedy persuadió al gobernador Connally para darle a Yarborough un papel más destacado en algunas de las funciones posteriores planificadas en Austin.

[19]​ En una entrevista posterior, Yarborough llamó al acontecimiento, "el evento más trágico de mi vida.

A su vez, Yarborough tachó a Bush de extremista de derecha al apoyar al candidato presidencial Barry Goldwater y como un rico del este y "carpetbagger" intentando comprar un escaño en el Senado.

En 1970, el excongresista Lloyd Bentsen, ganó con 54 a 46 por ciento a Yarborough en la elección primaria del Partido Demócrata, toda vez que Yarborough se hubiera concentrado más en ganar su segunda elección general contra Bush.

[23]​ Entonces, Yarborough volvió a hacer acusaciones de fraude electoral contra el sector conservador del partido.

(Fue sucedido por senadores conservadores como Lloyd Bentsen y el republicano Phil Gramm).

Yarborough defendió más educación en ciencia y tecnología en escuelas del país.

En su biografía, escribió: "La NASA ayudó a impulsar el progreso de la tecnología.