En 1949 se unió a una jam session en París en la que participaban Sidney Bechet, Charlie Parker, Miles Davis, Max Roach y otros.

[3]​[4]​ Como compositor, Thielemans fue autor de un estándar del jazz, «Bluesette», en el que usó su silbido y una guitarra al unísono.

En 1974 acompañó con su armónica a Mina en la RAI durante la actuación de «Non gioco più» para el programa Milleluci.

En 1983 colaboró en el disco de Billy Joel An Innocent Man y su armónica se puede escuchar en «Leave a Tender Moment Alone».

Con George Shearing y Dakota Staton Con Elis Regina Con John Denver Con Melanie Con Urbie Green Con Bill Evans Con Dizzy Gillespie Con Oscar Peterson Con Jaco Pastorius Con Quincy Jones Con Sarah Vaughan Con Sivuca: Con Eliane Elias Con Pat Metheny Con Fumio Karashima Con Joe Lovano Con Tito Puente Con James Taylor Thielemans fue ciudadano de honor de Dinant, Molenbeek, Sint-Amands y La Hulpe[31]​[32]​[33]​