Krause abandonó sus estudios de medicina para dedicarse a su pasión: el canto.
Este debut le llevó a interpretar distintos personajes en el Festival de Salzburgo durante diecisiete años.
En 1971, Samuel Barber le compuso The Lovers, oratorio para bajo-barítono y coro, estrenado en Filadelfia bajo la dirección de Eugene Ormandy.
Su extraordinaria discografía de más de setenta grabaciones le ha proporcionado diversos premios, entre los que se encuentran los Edison, Deutsche Schallplatten y English Gramophon.
También actuó en varias películas e impartió numerosas lecciones magistrales por todo el mundo, entre otros en el Curtis Institute of Music y en la Academy of Vocal Arts de Filadelfia.