Empezó su carrera musical como una cantante de voz dulce, influenciada por la música jazz, y gradualmente fue evolucionando hacia baladas pop más contemporáneas.
Es recordada como una de las mejores vocalistas femeninas de su época, conocida por canciones como You Know How To Love Me, Can't We Fall In Love Again, Old Friend, Living All Alone and Don't Wanna Change the World.
Durante una de esas actuaciones fue observada por Norman Connors, que le ofreció un espacio como vocalista en su disco, You Are My Starship (1976).
Su primer trabajo con Arista, Somewhere in My Lifetime se lanzó en 1979; la canción que da título al disco fue producida por su entonces compañero Barry Manilow.
El primer top 10 de Phyllis en solitario llegó en 1981 con Can't We Fall In Love Again, un dueto con Michael Henderson.
La canción fue grabada mientras ella estabaactuando en el musical de Broadway Sophisticated Ladies, un homenaje a Duke Ellington.
Otros de los sencillos incluidos en el disco, alcanzaron el top 10 Living In Confusion, When You Get Right Down To It, y el éxito I Found Love.
El último trabajo de Hyman, I Refuse To Be Lonely, supuso una introspección en su vida personal.
Tanto la canción que da título al álbum, como el sencillo I'm Truly Yours se convirtieron en pequeños éxitos.
Forever With You (1998) contiene baladas suaves y agridulces, sobre todo tratando de encontrar la aceptación en una relación.