Posteriormente pasó al circuito de Broadway, actuando en shows como Kid Boots, el Ziegfeld Follies of 1924, y Good News.

George Olsen and his Music fue un prolífico grupo, grabando para Victor Talking Machine Company.

Sus discos se encuentran entre los más buscados por los coleccionistas actuales, lo que testifica su fama.

Con su orquesta participó en el éxito de Eddie Cantor representado en 1928 en Broadway Whoopee!, así como en la versión cinematográfica rodada en 1930.

Residente en Paramus, Nueva Jersey, George Olsen dirigió en la localidad un popular restaurante durante muchos años, hasta su muerte en dicha población en 1971.