Tras regresar de su servicio militar, durante el cual tocó en diversas orquestas militares en Alemania, en las que coincidió con otros músicos como Cedar Walton o Eddie Harris, trabaja en las big bands de Charlie Barnet (1958) y Maynard Ferguson (1959), tocando después, en formato trío, en el Village Vanguard.

[2]​ En ese periodo (1960-1963), Ellis grabó varios discos como titular, con músicos como Jacki Byard, Ron Carter, Paul Bley, Gary Peackock o Eric Dolphy.

En estas grabaciones, Ellis realiza experimentos con el tempo y la tonalidad, dentro de una dinámica generalizada en la época, cercana al free jazz, aunque más adelante se mostrará bastante crítico con este estilo.

Durante unos meses, Ellis mantiene un sexteto, con el que realiza varios conciertos, entre ellos uno en el Fillmore West junto a Grateful Dead y Big Brother and the Holding Company.

Su siguiente disco, Shock Treatment (1968) no satisfizo al propio Ellis, aunque ese mismo año se publicó el tercero para Columbia, mixto en estudio y en vivo, titulado Autumn, que sí consiguió continuidad con la calidad de Electric Bath.

[2]​ También el disco The Don Ellis Band goes Underground (1969), que incluía una primera versión del tema Bulgarian Bugle, en compás de 33/16, consiguió buena recepción y ventas.

La banda, además, llevaba dos baterías y percusión, que en algunos temas se ampliaban a tres, con él mismo.