Se graduó en la Universidad Rutgers, en la cual formó parte de la sociedad Cap and Skull,[1] iniciando estudios jurídicos.
Además, tocaba el saxofón en una pequeña banda y ganaba dinero como entrenador de fútbol americano, aunque con motivo de la Gran Depresión se dedicó plenamente a la música.
Ozzie empezó su carrera en el espectáculo como líder de una banda musical.
El diario New York Daily Mirror hizo una encuesta entre sus lectores a fin de elegir su banda favorita.
Ozzie Nelson actuó junto a su banda en películas y en cortos en la década de 1940, y a menudo actuaba en papeles no musicales, demostrando un sentido del humor irónico (como en el musical de 1942 Strictly in the Groove).
Además desarrolló y produjo su propia serie para la radio, The Adventures of Ozzie and Harriet.