Sus más celebradas aportaciones serían con Associated Press durante la Segunda Guerra Mundial y en el San Francisco Chronicle, donde permaneció por 35 años.
Se hizo famoso por haber captado la imagen de seis marines norteamericanos clavando la bandera de Estados Unidos en la cima del Monte Suribachi, en la isla japonesa de Iwo Jima, durante la Segunda Guerra Mundial con una cámara Speed Graphic.
En 1999, la foto ocupó el lugar 68 entre las mejores 100 fotografías periodísticas del siglo XX, según encuesta realizada por la Universidad de Nueva York.
Con la foto, Rosenthal no ganó mucho dinero, sólo un bono de 4.200 dólares otorgado por la agencia Associated Press, para la cual trabajaba durante el conflicto, y un premio de 1000 entregado por una publicación.
Rosenthal dijo que se conformaba con haber salido vivo de la guerra.