Tres meses después de su nacimiento, su familia se trasladó a Cleveland (Ohio).
Donlevy entró en el Ejército de los Estados Unidos en 1916, y sirvió como piloto durante la Primera Guerra Mundial.
La gran oportunidad de Donlevy llegó en 1935, cuando fue elegido para trabajar en Barbary Coast, con Edward G. Robinson.
A este título siguieron otros muchos, con varios papeles de importancia.
El año siguiente interpretó el papel por el cual es quizás más recordado, el de McGinty en The Great McGinty, papel que retomó cuatro años más tarde en The Miracle of Morgan's Creek.