Ifukube pertenece a la línea de compositores autodidactas como Tōru Takemitsu y Takashi Yoshimatsu.

Su gran debut fue en 1935, cuando su primera pieza orquestal, la Rapsodia Japonesa, ganó el primer premio en el Concurso Internacional para jóvenes compositores, promovido por Aleksandr Cherepnín.

Los jueces en el concurso fueron Albert Roussel, Jacques Ibert, Arthur Honegger, Alexandre Tansman, Tibor Harsanyi, Pierre-Octave Ferroud, and Henri Gil-Marchex, y fueron unánimes al otorgarle el primer premio.

Al final de los años 30 su música, especialmente la Rapsodia japonesa, fue presentada en Europa varias ocasiones.

Ifukube pasó algún tiempo en el hospital debido a la exposición a los Rayos-X, y uno de esos días se sorprendió al escuchar una de sus marchas en la radio, cuando el general estadounidense Douglas MacArthur llegó para formalizar la capitulación japonesa.

En 1974, regresó a enseñar al Colegio Musical de Tokio, convirtiéndose en presidente al año siguiente, y no fue hasta 1987 que se retiró, pero solamente para convertirse en director del departamento de etnomusicología del colegio.

Ifukube entrenó a la siguiente generación de compositores como Toshiro Mayuzumi, Yasushi Akutagawa y Kaoru Wada.