Fue uno de los tres notables guitarristas que tocaron en The Yardbirds, siendo Eric Clapton y Jimmy Page los otros dos.

[4]​ Beck participó en álbumes de artistas como Rod Stewart, Mick Jagger, Ozzy Osbourne, Tina Turner, Morrissey, Donovan, Diana Ross, Jon Bon Jovi, Malcolm McLaren, Kate Bush, Roger Waters, Stevie Wonder, Les Paul, Zucchero, Cyndi Lauper, Brian May, Roger Taylor, Stanley Clarke, Screaming Lord Sutch, ZZ Top y Toots and the Maytals.

En 2014 recibió el Premio Ivor Novello por su contribución a la música británica[6]​ y fue presentado en dos ocasiones en el Salón de la Fama del Rock and Roll, como miembro de The Yardbirds (1992) y como músico solista (2009).

[17]​[18]​ Mientras asistía a la Escuela de Arte de Wimbledon, Beck se ganó la reputación apoyando a Screaming Lord Sutch and the Savages en 1962 cuando la banda grabó el sencillo "Dracula's Daughter"/"Come Back Baby" para Oriole Records.

"Realmente me gustaban porque tocaban R&B al estilo Jimmy Reed, aunque sólo era blues de doce compases".

El guitarrista pudo grabar un disco con la banda, titulado Roger the Engineer (Over Under Sideways Down en los Estados Unidos) y publicado en 1966.

[26]​ Beck fue despedido de The Yarbirds durante una gira por los Estados Unidos debido a su carácter explosivo.

[27]​ En 1967 grabó dos sencillos como solista para el productor Mickie Most, "Hi Ho Silver Lining" y "Tallyman", en los cuales cantó.

Acto seguido formó su propia agrupación, The Jeff Beck Group, con Rod Stewart como cantante,[28]​[29]​ Ronnie Wood en el bajo, Nicky Hopkins en los teclados y Aynsley Dunbar en la batería (Micky Waller lo reemplazó poco tiempo después).

El equipo electrónico no estaba a la altura de los sonidos que tenía en mi cabeza".

[35]​ Un segundo álbum, Jeff Beck Group (julio de 1972) fue grabado en los estudios TMI en Memphis, Tennessee con los mismos músicos.

[36]​ Beck contrató a Steve Cropper como productor[37]​ en un álbum con una fuerte influencia de la música soul.

Esta formación continuó brindando conciertos como The Jeff Beck Group hasta agosto de 1972 para cumplir obligaciones contractuales.

El concierto fue emitido en los Estados Unidos como Rock Around the World en septiembre del mismo año.

Durante esta etapa fueron grabadas las canciones "Blues Deluxe" y "BBA Boogie", incluidas en el álbum recopilatorio Beckology de 1991.

En una presentación en Cleveland en 1975 arrojó su Stratocaster fuera del escenario tras romper una cuerda, finalizando el recital con una Les Paul.

Como resultado, fue grabado el álbum en directo Jeff Beck with the Jan Hammer Group Live (1977).

Un año después realizó una serie de históricos recitales con Eric Clapton en el marco del evento The Secret Policeman's Other Ball, patrocinado por Amnistía Internacional.

Acto seguido, el guitarrista participó en otro evento benéfico llamado ARMS Concert con Eric Clapton y Jimmy Page.

También colaboró en la grabación del álbum debut en solitario de Mick Jagger She's the Boss (1985) y en su segunda producción, Primitive Cool (1987).

El disco marcó la primera colaboración de Beck con una mujer en su discografía, la guitarrista Jennifer Batten,[55]​ reconocida por su trabajo con Michael Jackson.

La publicación en 2003 de Jeff mostró que el nuevo estilo eléctrico usado en los dos álbumes anteriores continuaba dominando.

La canción "Plan B", de este mismo disco, le dio en otoño su cuarto premio Grammy.

Ese mismo año aportó la guitarra en la canción "54-46 Was My Number" de Toots and the Maytals como parte del álbum True Love, el cual fue galardonado en los Premios Grammy como mejor álbum de reggae.

Ese año reapareció en el Festival Crossroads en una banda conformada por Vinnie Colaiuta, Jason Rebello y la joven bajista Tal Wilkenfeld.

[60]​ En la gala, el guitarrista interpretó la canción "Train Kept A-Rollin'" acompañado de Page, Ronnie Wood, Joe Perry, Flea, James Hetfield, Robert Trujillo, Lars Ulrich, Kirk Hammett y Jason Newsted.

[68]​ En 2016 fue publicado un nuevo álbum de estudio del guitarrista, titulado Loud Hailer, en el que presentó a una renovada banda compuesta por Carmen Vandenberg, Rosie Bones, Davide Sollazi y Giovanni Pallotti.

[72]​ Al contrario que otros guitarristas, Jeff Beck no se basaba excesivamente en efectos electrónicos.

En un comienzo, Jeff Beck le hacía un corte con una hojita de afeitar a la membrana del parlante (o altavoz) para producir distorsión con su equipo.

Jeff Beck es considerado uno de los más grandes guitarristas por tener un género único, como el blues combinado con rock progresivo.