Nacido en Minsk, Imperio Ruso (actualmente Bielorrusia), Kaplan asistió a una escuela secundaria jeder y en Łowicz.

Poco tiempo después fue enviado a Berlín para dirigir la oficina mundial de Hitachdut.

En el segundo gobierno, la cartera de Comercio e Industria se le dio a Yaakov Geri, pero Kaplan siguió siendo Ministro de Finanzas.

Conservó su escaño y su cartera tras las elecciones de 1951 y en junio de 1952 se convirtió en el primer vice primer ministro del país.

El Centro Médico Kaplan en Rehovot construido en 1953, el suburbio Kiryat Eliezer de Netanya, el vecindario Eliezer de Kfar Saba, Kaplan Street en Tel Aviv y Kaplan Street en Kiryat HaMemshala (complejo gubernamental) de Jerusalén fueron nombrados en su honor.