Nació en una granja cerca de Lima, Ohio, Begg asistió a las escuelas públicas y a los institutos de Columbus Grove y a la Universidad de Lima (Ohio).
Se graduó por la Universidad de Wooster (Ohio) en 1903.
Se involucró en el negocio bancario así como en consultoría de empresas y productor de leche.
Se mudó a Oklahoma City, Oklahoma, en 1959, donde residió hasta su muerte el 26 de marzo de 1963.
Fue enterrado en el cementerio de Garfield-Lakeview, Cleveland, Ohio.