En esa época además se ocupó en actividades tan diversas como cantante y servidor de bebidas.
Previamente había presentado varios shows en Chicago, entre ellos Johnny Olson's Rumpus Room, un programa nocturno de variedades, que dio también nombre a un posterior talk show que presentó en la DuMont Television Network.
En fecha tan tardía como 1956, Olson intervino en otro concurso de radio, el efímero Second Chance, bastante similar al anterior éxito Queen for a Day.
Ese mismo año también narró el show presentado por Merv Griffin Play Your Hunch, el cual duró hasta 1963, empezando así una larga asociación con Mark Goodson-Bill Todman Productions.
Al año siguiente trabajó en un show hermano, What's My Line?, y en 1962 empezó a narrar el original Match Game (presentado por Gene Rayburn) en la NBC.
Olson fue así mismo locutor de The Jackie Gleason Show desde 1962 hasta su cancelación en 1970.
En su tiempo libre, Olson se desplazaba a una granja espaciosa que poseía en Buckingham Acres, en Lewisburg, Virginia Occidental.