En la primera mitad de los años treinta el Rikugun Kōkū Hombu, Estado Mayor del Ejército Imperial japonés, consideró necesario iniciar una modernización de sus aviones destinados a operaciones de bombardeo aéreo táctico, hasta entonces fundamentalmente basado en el Kawasaki Ka 87, para adaptarse a los similares roles desarrollados en Europa y los Estados Unidos.
Aunque rechazado por las autoridades militares japonesas, el modelo demostró tener un excelente desempeño y manejo.
[2] El prototipo del Ki-3 voló por primera vez en marzo de 1933, equipado con un radiador anular inusual en la nariz, una solución técnica que luego se descartó por una solución más clásica.
Voló por primera vez en abril de 1933,[2] y entró en servicio operativo inicialmente con el 6.º Regimiento Aéreo Compuesto en Chosen (Corea).
Posteriormente se utilizó en combate en Manchukuo (Manchuria) y en el norte de China durante las etapas iniciales de la segunda guerra sino-japonesa, donde destacó por su buena maniobrabilidad para apoyar a las tropas terrestres.