Nacido en Watertown, Wisconsin, hijo de Edward y Rahel (Paynter) Davies, Joe Davies estudió derecho en la Universidad de Wisconsin y luego saltó a la fama durante el gobierno del presidente Woodrow Wilson, cuando fue nombrado presidente de la Comisión Federal de Comercio de 1915 a 1916.
Davies también se casó con la heredera Marjorie Merriweather Post de General Foods en 1935; la pareja se divorció en 1955.
Mientras estaba casado con Post, Davies fue nombrado embajador en la Unión Soviética por Franklin D. Roosevelt.
El cargo se considera crítico, ya que Estados Unidos no reconoció al gobierno soviético como la autoridad soberana de lo que fue Rusia hasta 1933.
El nombramiento de Davies se debe en parte a su talento y lealtad política a Roosevelt.