Se especializó en la interpretación de personajes como abuelos, jueces o doctores, entre otros, y es quizás más conocido por encarnar al Dr. Meade en Lo que el viento se llevó (1939).

Nacido en la ciudad de Nueva York, Davenport se crio en Filadelfia.

Descendía de una familia de actores teatrales, siendo su padre el afamado intérprete Edward Loomis Davenport, y su madre, Fanny Vining, una actriz inglesa descendiente del renombrado actor teatral irlandés del siglo XVIII Jack Johnson.

Tras divorciarse en 1896, ese mismo año se casó con otra actriz, Phyllis Rankin.

El padre de Phyllis Rankin, McKee Rankin, había sido el principal actor del Teatro Arch Street, el cual era dirigido por la abuela de Lione, Louisa Lane Drew.