Su última conquista se dio en el 2006 cuando logró el título de la Tercera División.

El club lleva dicho nombre en honor al expresidente estadounidense Rutherford B. Hayes, quien había favorecido a Paraguay en una decisión arbitraria territorial luego de la Guerra de la Triple Alianza.

Su rico historial incluye participaciones en otras disciplinas como básquetbol, futsal FIFA o bochas, además de constituirse en el pasado en un ente formador de boxeadores y atletas como José Anastacio Zelaya, quien durante varios años mantuvo el récord nacional de los 100 metros llano.

[5]​ Además del nombre en honor a Rutherford B. Hayes, se decidió adoptar los colores de la bandera de Estados Unidos para el uniforme, manteniendo siempre rayas verticales blanquirrojas en su camiseta y el azul como color predominante en el pantaloncito.

Volvió a jugar en la Primera División en los campeonatos de 1930 y 1931, luego se vino la pausa en el deporte paraguayo por la Guerra del Chaco.

[6]​[7]​ En el año 1952 el club logró su mayor éxito, ganó el campeonato de Primera División, logrando 28 puntos en total, cuatro puntos más que los clubes Sol de América y Libertad, fueron parte de ese plantel campeón Rubén Noceda, Asunción Caballero, Pedro Cabrera, Cándido Duarte (capitán), Gregorio Ovelar, Francisco León, Rubén Jiménez, Domínguez, Agustín Álvarez, Sixto "Chorito" Noceda, Fausto Laguardia, Teobaldo Melgarejo, Armando "Rubité" Jara, Meza, Manuel "Nene" Jara, Saldívar entre otros, teniendo como D.T.

En el año 1971 logró un nuevo título de la Segunda División y el ascenso, aunque solo jugó en la temporada 1972 en la Primera División ya que al término del campeonato volvió a descender.

En la temporada 2016 de la Primera División C, el club logró clasificar a la segunda fase del campeonato, tras jugar y ganar el desempate por el octavo puesto de la primera fase, que otorgaba el último cupo de clasificación a la siguiente fase, derrotando al club Sport Colonial.

En esta fase final del campeonato que otorgaba tres cupos de ascenso, el club terminó en el cuarto y último lugar, perdiendo así una gran posibilidad de ascender.

En la penúltima fecha se logró con anticipación el ascenso, llegando a la última fecha con las posibilidades de coronarse campeón, pero dicha opción se diluyó en los tres últimos minutos del partido contra el club Tembetary, aún pese a la derrota el equipo de las estrellitas logró el subcampeonato y el ansiado ascenso.

[11]​ En la temporada 2018 de la Primera División B, el club logró la permanencia y culminó el campeonato en un cómodo séptimo puesto.

También erróneamente a veces llaman al estadio como Francisco "Kiko" Reyes, pero realmente una de las tribunas es la que lleva el nombre de ese exjugador del club.