Nacido en Tokio, Shimada se graduó en la 32.ª clase de la Academia Naval Imperial Japonesa en 1904.

Sirvió como guardiamarina a bordo del buque nodriza de submarinos Karasaki, haciendo lo propio en el crucero protegido Izumi con el que participó en la batalla de Tsushima durante la Guerra Ruso-Japonesa.

Tras la dimisión del anterior primer ministro Fumimaro Konoe, forzada por el propio Tojo, ministro de la Guerra en su gobierno, este había sido encargado por el emperador Hirohito para que buscara una solución diplomática al conflicto que Japón mantenía con Estados Unidos a causa de la reciente invasión japonesa de la Indochina francesa.

Por eso nombró como ministro de Asuntos Exteriores al experimentado diplomático Shigenori Togo, nada favorable a la Alemania nazi y que estaba dispuesto a hacer concesiones a Estados Unidos, a Okinori Kaya como ministro de Finanzas y para el ministerio de Marina a Shimada, que como Kaya era un declarado antibelicista —Tojo por su parte se mantuvo al frente del ministerio de la Guerra y asumió también la cartera de Interior—.

Así le dijo al viceministro de Marina Yorio Sawamoto: «No podría perdonarme si perdiéramos una oportunidad para la guerra sólo por mi oposición como ministro de Marina».