Jones fue estudiante y estrella del fútbol americano en la Universidad de California en Los Ángeles, llegando a jugar unas pocas temporadas como profesional.

Inició su carrera artística con pequeños papeles en la película de Wesley Ruggles y Ernest B. Schoedsack The Monkey's Paw (1933), y en la de Sidney Lanfield Red Salute (1935), siendo contratado en 1937 por RKO Pictures.

Rodadas las anteriores producciones, Jones sirvió en la Guerra, permaneciendo asociado con el servicio tras finalizar la misma, y estimulando a los estudiantes para ingresar en el Reserve Officers’ Training Corps (ROTC).

Su asociación con la pareja se inició en The Wistful Widow of Wagon Gap (1947), continuando en la serie televisiva de los años 1950 The Abbott and Costello Show, la cual se emitió durante dos temporadas.

En el show, Jones encarnaba a "Mike the Cop", el antagonista de Costello.