Como guardia marina fue asignado al crucero Soya en 1909, de Dairen a Chemulpo, Chinkai, Sasebo y Tsu.

Estuvo en el Soya los años siguientes hacia Manila, Ambon, Townsville, Brisbane, Sídney, Hobart, Melbourne, Fremantle, Batavia, Singapur, Hong Kong, Makung y Keelung.

Fue promocionado a teniente a fines de 1915 y transferido al acorazado Fusō en donde participó en operaciones en la Primera Guerra Mundial contra la Armada Imperial Alemana.

A fines de 1918, fue agregado naval a Suiza y fue nombrado agregado naval de la embajada japonesa en Suiza y la Armada le ordenó aprender alemán.

Fue un líder de "la camarilla izquierdista" junto con otros militares japoneses, que se oponían al incremento del fascismo y al expansionismo japonés de ultramar.

Además Inoue comprendía mejor que nadie los peligros de la ideología nazi porque había leído Mein Kampf (Mi lucha) en alemán y conocía los comentarios despreciativos sobre Japón que aparecían en el libro y que habían sido suprimidos en la traducción al japonés.

[1]​ A diferencia de Inoue, Yonai y Yamamoto, el Ejército Imperial Japonés y un sector de la Armada —cada vez más numeroso conforme se produjeron los éxitos militares de Hitler— creían que la alianza con las potencias europeas del Eje obligaría a Gran Bretaña a dejar de apoyar a China en la segunda guerra sino-japonesa iniciada en 1937.

Posteriormente fue recolocado su cuartel en Rabaul para la Operación Mo en donde intentó ocupar Port Moresby.

Después de la guerra, Inoue fue profesor para los niños en inglés y en música en su casa en Yokosuma.