Estos discos le proporcionaron un contrato con Chris Strachwitz, el propietario del sello Arhoolie Records, quien lo lanzó mediante la edición de singles bailables para jukebox.

Su banda se estableció como arquetipo del zydeco: Lonessome Sundown y Phillip Walker, guitarras; John Hart, saxo tenor; su hermano Cleveland Chenier, tabla de lavar (rubboard); más un batería y, en ocasiones, un pianista.

Logró un éxito internacional, especialmente con su disco Bogalusa Zydeco, que le llevó a giras por Europa y Japón.

Otros discos importantes en su carrera, fueron Louisiana Blues (1965) cantado en un acentuado patois, Jambalayá (1975), grabado en directo en el Festival de Montreux, etc.

[1]​ Chenier introdujo, además, un cambio importante respecto a la tradición cajun, sustituyendo el acordeón diatónico simple de botones alemán, de cuatro llaves en do, por el acordeón cromático a piano moderno, que le permitió tocar blue notes.