Hijuelos nació en Morningside Heights (Manhattan), en una familia de inmigrantes cubanos.
Su primera novela, Nuestra casa en el fin del mundo (Our House in the Last World), fue publicada en 1983 y recibió dos años más tarde el Rome Prize entregado por la American Academy in Rome.
Su segunda novela, Los reyes del mambo tocan canciones de amor (The Mambo Kings Play Songs of Love, 1989) ganó el Premio Pulitzer a la Mejor Obra de Ficción en 1990.
En 2005, se produjo un musical de Broadway basado en la novela.
Se desplomó y no volvió a recuperar la conciencia.