La carrera militar de Nikolái Ivánov comenzó en la guerra ruso-japonesa, desastrosa para los rusos, que fueron derrotados por Japón.

Se mantuvo en este puesto hasta que comenzó la Primera Guerra Mundial en el verano de 1914.

En la Primera Guerra Mundial Ivánov fue nombrado comandante de las fuerzas rusas en el frente sudoccidental.

Fue nombrado consejero militar por zar Nicolás II, no por sus capacidades como estratega, sino por sus convicciones políticas, pero la mayoría de sus ideas fueron rechazadas por Mijaíl Alekséyev.

[1]​ Precisamente por su supuesta popularidad, cuando estalló la Revolución de Febrero que acabó con la monarquía fue el elegido para pacificar la capital, sin éxito.