Una vez que Krause ingresó a la escuela secundaria, la danza pasó a un segundo plano cuando comenzó a actuar en una variedad de obras de teatro y musicales, incluidos Side Show como Violet Hilton, Gypsy como Mama Rose y Equus como Dora Strang.

Poco después, Krause sintió que estaba lista para comenzar su carrera profesional como actriz.

En 2006, Krause apareció en la producción Les Liaisons Dangereuses de la compañía teatral Huntington.

[3]​ Ha continuado actuando en los escenarios, apareciendo en 2013 como Rose en el estreno mundial de Annie Baker, The Flick, en Playwrights Horizons, un papel que repitió dos años después para una segunda carrera en el Barrow Street Theatre[3]​ y más tarde en el National Theatre.

Krause ganó más prominencia con un pequeño papel en el largometraje de 2011 Young Adult, en el que su escena como empleada del hotel donde se aloja el personaje de Charlize Theron se usó con fines promocionales y apareció en el tráiler y en los anuncios televisivos de la película.