Loewe fue un pianista prodigioso; a la edad de 13 años se convirtió en el solista más joven que jamás haya tocado con la Orquesta Filarmónica de Berlín.

Estudió con Eugen d'Albert y Ferruccio Busoni.

Su canción Katrina que escribió a los 15 años, vendió más de un millón de copias.

Al llegar a los Estados Unidos en 1924, añadió música a varias revistas de Broadway.

En 1942 conoció al letrista estadounidense Alan Jay Lerner y trabajaron juntos durante 18 años, de cuya relación se produjeron cinco clásicos musicales.