Durante la Primera Guerra Mundial volvió a Rusia y trabajó en una fábrica militar de Odesa.
Al inicio de la Guerra Civil Rusa entre las fuerzas bolcheviques, el Ejército Blanco y otros movimientos antibolcheviques, Yakir fue miembro del comité del partido bolchevique de la provincia de Vorónezh y empezó al servicio del Ejército Rojo como comisario político.
Entre estos reformadores estaba Mijaíl Tujachevski, que se hizo amigo de Yakir.
En el entrenamiento de sus tropas, Yakir infundió a sus oficiales la iniciativa y la habilidad para hacer sus propios juicios.
Las ideas innovadoras de Yakir en el arte militar impresionaron a su colegas alemanes.
Como consecuencia, Stalin instruyó a su subordinado Kliment Voroshílov, que era el Comisario del Pueblo para la Defensa, para que Yakir no perteneciera al prestigioso Consejo Consultivo del Comisariado de Defensa.
La alemana Wehrmacht copió las innovaciones soviéticas en preparación de la Segunda Guerra Mundial.
Durante esos años, Yakir daba regularmente clases en la Academia de Estado Mayor del Ejército Rojo, informando a los estudiantes sobre los nuevos desarrollos en asuntos militares.
Yakir era un verdadero creyente de la causa comunista, y estaba involucrado en la política interna.
Mientras era ingenioso e independiente en sus pensamientos como comandante militar, en la política soviética era un dócil miembro del partido y seguidor de la línea estalinista.
Stalin no permitiría en sus comandantes militares ningún pensamiento independiente en su área profesional.
Mientras que la actitud superficial de Stalin era amigable, el dictador no podía tolerar a la gente como Yakir en un estado estalinista totalitario.
[1] Yakir fue ejecutado junto con Tujachevski y muchos otros altos oficiales soviéticos inmediatamente después del juicio que se llevó a cabo el 11 de junio de 1937.
Cuando Alemania nazi invadió la Unión Soviética en junio de 1941, el Ejército Rojo se mostró incapaz en la guerra moderna y no estaba preparado para enfrentarse al enemigo, que utilizaba el arte militar en los que Yakir y otros innovadores soviéticos eran pioneros.
Los discípulos de Yakir que sobrevivieron a la purga utilizaron la experiencia que habían adquirido bajo Yakir y Tujachevski para hacer una contribución vital a la victoria soviética sobre Alemania.
Entre ellos estaban el jefe de Estado Mayor del Ejército Rojo Alekséi Antónov, los comandantes del frente Andréi Yeriómenko e Iván Cherniajovski y el jefe de Ejército Aleksándr Gorbátov.