Klinghoffer fue inducido al Rock and Roll Hall of Fame con los Red Hot Chili Peppers en 2012 con 32 años de edad, convirtiéndose en el miembro vivo más joven en entrar al Salón de la Fama hasta ese momento, superando a Stevie Wonder.
[2] En 2020, Klinghoffer se uniría a Pearl Jam como músico de sesión, tocando la guitarra, percusiones adicionales y coros, como soporte en su gira promocional del álbum Gigaton (2020), la cual se postpuso debido a la pandemia del COVID-19.
También ha estado de gira y colaborado con otros artistas como Gnarls Barkley, Beck, Butthole Surfers, John Frusciante, Golden Shoulders, Jon Brion, Neon Neon, PJ Harvey, Sparks, That Dog, Thelonious Monster, Martyn LeNoble, The Insects, The Format y Vincent Gallo.
Fue en uno de esos campamentos donde conoció a Dan Elkan, con quien más tarde tocaría en Golden Shoulders.
Aprendió a tocar la guitarra de forma autodidacta con los discos de Red Hot Chili Peppers y Pearl Jam, y más tarde diría que se animó a formar una banda escuchando Radiohead.
En 2000 The Bicycle Thief estuvo de gira por Estados Unidos acompañando a los Red Hot Chili Peppers.
[7] Klinghoffer ha contribuido regularmente en los álbumes en solitario de John Frusciante, como The Will to Death (2004), y tiene incluso un álbum conjunto con John llamado A Sphere in the Heart of Silence (2004), que es posiblemente la pieza más famosa de Josh hasta la fecha.
Hasta el momento han lanzado un par de canciones que se pueden descargar desde su página web.
[10] En octubre de ese mismo año, los Red Hot Chili Peppers, menos John Frusciante, dieron por finalizado su hiato de dos años e invitaron a Klinghoffer al estudio para comenzar a trabajar en su décimo álbum.
El 29 de enero de 2010 las dudas se despejaron cuando los Red Hot Chili Peppers se presentaron en el evento MusiCares Person Of The Year: Neil Young en Los Angeles Convention Center, Los Ángeles, Estados Unidos, que rendía homenaje a Neil Young.