Realizó sus estudios musicales en los Conservatorios de Stern y Klindworth-Scharwenka, en Alemania.
En 1940, Landau llegó a Nueva York y recibió clases de Pierre Monteux.
Landau fundó la Brooklyn Philharmonia (más tarde, conocida como Orquesta Filarmónica de Brooklyn) en 1955, una orquesta de músicos independientes, interpretando obras contemporáneas o poco conocidas.
Ocupó el puesto de primer director musical en esta orquesta desde 1955 a 1971, cuando dimitió después de que la orquesta redujese su temporada debido a las dificultades financieras.
Desde 1961 hasta 1981, fue director de la Music for Westchester Symphony (posteriormente, White Plains Simphony), hasta que dimitió debido a problemas con el consejo de administración en cuanto a la programación.