Fue alumno de Yoshida Shōin en el Shoka Sonjuku y posteriormente se unió al movimiento Sonnō jōi ("para reverenciar al Emperador y expulsar a los bárbaros"), junto con Kido Takayoshi.
Posteriormente ese mismo año fue enviado en la Misión Iwakura alrededor del mundo como vice-enviado extraordinario, con lo que se ganó la confianza de Okubo Toshimichi.
En 1885, negoció la Convención de Tientsin con Li Hongzhang, normalizando las relaciones diplomáticas con la Dinastía Qing en China.
Mantuvo su poderosa influencia mientras Kuroda Kiyotaka y Yamagata Aritomo ejercían como Primeros Ministros.
Esta lección le enseñó a Itō la necesidad de contar con un partido político afín al gobierno, por lo que organizó el Rikken Seiyūkai en 1900.
Preocupado porque lo puedan traicionar, renunció en 1901, pero permaneció como jefe del Consejo Privado mientras Saionji Kinmochi y Katsura Tarō se alternaban en el cargo de primer ministro.