[2]​ Pronto decidió dedicarse por completo al ajedrez; se cree que fue en 1903 después de alcanzar el quinto puesto en un torneo en Kiev.

Tras la guerra, Rubinstein continuó siendo un gran jugador, aunque sus resultados no volvieron a ser los mismos que en el periodo 1907-1912.

Aun así, siguió cosechando excelentes resultados: en 1920 derrotó en un encuentro celebrado en Suecia a Bogoljubov por 6,5-5,5 (+5 −4 =3),[7]​ y venció un importante torneo en Viena en 1922 por delante del futuro campeón mundial Alexander Alekhine.

[10]​ No está claro cómo Rubinstein, que era judío, sobrevivió a la Segunda Guerra Mundial en la Bélgica ocupada por los nazis.

Pasó los últimos 29 años de su vida viviendo en casa con su familia y en un sanatorio debido a su grave enfermedad mental.

Sin embargo, mientras estaba en la clínica psiquiátrica, Rubinstein fue visitado por Alberic O'Kelly en varias ocasiones y le brindó cierta orientación en ajedrez.

Fue uno de los primeros ajedrecistas en tener en cuenta el final al elegir y jugar la apertura.