A partir de 1927, vivió en Leningrado.
Trabajó en la Orquesta de Jazz de Leonid Utiósov de 1940 a 1947 y compuso sus primeras obras históricas.
En 2009, un vídeo de 1976 del cantante Eduard Jil interpretando la vocalización de Ostrovski el tema "Estoy muy contento, por fin regreso a casa" (Я очень рад, ведь я, наконец, возвращаюсь домой) fue subido a YouTube y rápidamente llegó a conocerse como un meme de internet en ese mismo año, llamado "Trololololololololololo".
La canción fue escrita por Ostrovski, y realizada por Valeri Obodzinski y Muslim Magomáyev en Little Blue Light.
El hijo de Mijáil Ostrovski, es citado diciendo: