Bois nació en Berlín y comenzó a actuar en 1907, convirtiéndose en uno de los primeros niños actores del cine, con un papel en la película del cine mudo Bauernhaus und Grafenschloß.

La carrera de Bois abarcó ochenta años, un período cuya duración no ha sido superada por otro actor.

En 1933 Bois deja Alemania a causa del nazismo, en 1934 se exilia en los Estados Unidos, donde encontró trabajo en Broadway.

En 1937, encuentra trabajo en Hollywood, y comienza a actuar en películas americanas, su papel más conocido fue en Casablanca (1942).

Bois murió en Berlín, la ciudad donde nació, a la edad de 90 años.