Durante varias ocasiones en su futura carrera política se le hicieron ofertas para elevar su rango, pero Hara las rechazó afirmando que hacerlo implicaría alejarse de los ciudadanos ordinarios y limitaría su habilidad para entrar a la Cámara de Representantes.
En 1882 Hara consiguió un puesto en el Ministerio de Asuntos Exteriores, por petición del ministro Inoue Kaoru.
Luego Inoue lo nombró cónsul general en Tianjin, y después el primer secretario a la embajada de Japón en París, basándose en ciertas discusiones sobre el futuro de la política japonesa que tuvo con Hara durante un viaje que ambos hicieron en 1884.
En 1900, regresó a la política y se unió al partido Rikken Seiyukai, recién fundado por Itō Hirobumi.
Sistemáticamente despidió varios burócratas de los gobiernos locales, desde gobernadores hasta los rectores de las escuelas, y los reemplazaba por personas que consideraba capaces, y creó un sistema en el cual las personas se destacaban por sus méritos, sin importar su condición.
En 1914, tras un acalorado debate, fue elegido presidente del Rikken Seiyukai para reemplazar al saliente líder Saionji Kinmochi, y bajo su liderazgo el partido fue ganando seguidores hasta que en 1917 se convirtió en el partido más numeroso de la Dieta de Japón.
En 1918 Terauchi Masatake perdió su cargo debido a una serie de rebeliones ocurridas en 1918.
Como primer ministro, no fue muy popular porque rehusó usar su mayoría en la Cámara de Representantes para imponer la legislatura por sufragio universal.