Sus inicios como actriz teatral tuvieron lugar en musicales representados en el circuito de Broadway.

En 1930 fue nominada al Oscar a la mejor actriz por su actuación en The Devil's Holiday.

Con un contrato con Paramount Pictures, Carroll a menudo se resistía a interpretar los papeles que le ofrecían, por lo que se ganó la reputación de ser una actriz recalcitrante y poco cooperadora.

Carroll se retiró del cine en 1938, volviendo al teatro y protagonizando la serie televisiva The Aldrich Family en 1950.

Nancy Carroll falleció en 1965 en Nueva York, a causa de un aneurisma.