Aprendió a tocar muchos instrumentos musicales, entre ellos el clarinete, tuba, violín, piano y guitarra.

Hernández se trasladó a San Juan, donde tocó para la orquesta municipal bajo el director Manuel Tizol.

[cita requerida] En 1917, Rafael Hernández estaba trabajando como músico en Carolina del Norte, cuando los Estados Unidos entra a la Primera Guerra Mundial.

El músico de jazz James Reese Europe reclutó a los hermanos Rafael Hernández y Jesús Hernández, junto con otros 16 puertorriqueños, para que se unieran a la Orquesta Europa, la banda musical de los Harlem Hell Fighters del Ejército estadounidense.

[3]​ Durante su estancia en México, Hernández compuso la canción Qué chula es Puebla, considerada como el himno no oficial del estado.

En 1937, escribió Lamento borincano, una de sus grandes obras; y ese mismo año compuso Preciosa, considerada como su pieza maestra y que es más conocida en la voz de Marc Anthony, quien la lanzó como parte su álbum Desde un Principio: From the Beginning en 1999.

Una versión moderna fue hecha por Gilberto Santa Rosa, Marc Anthony y La India.

[5]​ Entre otros que la han interpretado se encuentran Javier Solís, Chavela Vargas, José Feliciano a dúo con Luis Fonsi y el trovador chileno Víctor Jara.