Creó junto con Django Reinhardt el Quinteto del Hot Club de Francia.
En 1923 -a los 15 años- empieza su carrera profesional como violinista y pianista en los cines acompañando a las películas mudas.
En 1934 funda el Quinteto del Hot Club de Francia con el guitarrista Django Reinhardt.
Al estallar la Segunda Guerra Mundial se encuentran de gira en Inglaterra;[2] Django vuelve enseguida a Francia, pero Grappelli decide quedarse en Londres.
Cuando se reencuentran en 1946, tocan y graban espontáneamente La Marsellesa rebautizada Ecos de Francia (Echoes of France).