La nueva versión incorpora cambios significativos en el sonido, logrando una canción con mayor ambientación y calidad al ser grabada en un estudio.

[7]​ Sólo en Estados Unidos se lanzó una edición especial en formato de CD para promoción, que incluía a «Don't Leave Me (Ne Me Quitte Pas)» junto al primer sencillo del álbum «All the Rowboats».

La versión fue lanzada al mercado como sencillo independiente a través de iTunes y posee una carátula similar a «Don't Leave Me (Ne Me Quitte Pas)», pero con su título «Не Покидай Меня» en el alfabeto cirílico ruso.

[16]​ La dirección estuvo a cargo de Ace Norton y fue rodado en Nueva York.

Los protagonistas de la canción son desde vagabundos, niños pequeños hasta ancianos, que viven situaciones cotidianas en los lugares mencionados.

[17]​ El estribillo incluye la repetición de monosílabos como «oh-oh-ohs» and «ah-ah-ahs», ampliamente utilizados por la cantante en sus canciones.

[17]​ Sobre el sonido, «Ne Me Quitte Pas» era simple y sólo incluía un piano y las vocales de Regina, mientras que «Don't Leave Me (Ne Me Quitte Pas)» presenta un sonido mucho más completo que respeta la estructura original de la canción, pero hace hincapié en nuevos instrumentos complementarios y en la voz de la cantante.

Aventuró que esta canción en particular es un testimonio del pasaje de Spektor de ser una artista experimental inspirada en el jazz, a una cantante más pop; sin embargo, no consideró esto como un cambio negativo y concluyó «Spektor logró ser más popular sin abandonar sus raíces y originalidad».