En los años treinta Carlson trabajó en los escenarios de Broadway tras estudiar y enseñar teatro en Minnesota.

Su primer papel en el cine fue en 1938, en la película de David O. Selznick The Young in Heart.

Tras su vuelta tuvo problemas para encontrar nuevos papeles, y su futuro en Hollywood estuvo en duda hasta 1948.

Su éxito en el género le llevó a dirigir en 1954 la película Riders to the Stars, la cual también protagonizaba.

Su última película fue Change of Habit, en 1969, junto a Elvis Presley y Mary Tyler Moore.