La producción del álbum corrió por cuenta del guitarrista y compositor principal de la banda Jimmy Page, siendo también el primer álbum de Led Zeppelin en el que Eddie Kramer se desempeñó como ingeniero.

Page afirma que "en otras palabras, mucho del material de este disco fue hecho durante los ensayos para las giras y creamos esto juntos.".

[5]​ La producción fue acreditada en su totalidad al guitarrista y compositor Jimmy Page, quien en el álbum anterior aplicó técnicas usadas por Eddie Kramer, cuyo primer trabajo con Jimi Hendrix impresionó a todos los miembros de la banda, especialmente al guitarrista.

El experto en Led Zeppelin Dave Lewis escribió sobre la producción del álbum, diciendo que "debe considerarse todo un triunfo, especialmente por la producción, que hace que aún hoy en día el sonido siga siendo fresco, y eso se debe a la unión de Kramer y Page en la sala de control".

[6]​ En otra entrevista, Kramer dio a Page mucho crédito por el sonido logrado, pese a las condiciones en las que se grabó el álbum, señalando que "hicimos este álbum por fragmentos.

Hemos cortado algunas pistas en los estudios más extraños que puedan imaginarse, donde había pequeños agujeros en la pared.

Page y Kramer pasaron dos días mezclando el álbum en los estudios A&R.

[10]​[11]​ "Whole Lotta Love" y "The Lemon Song" presentan temas relacionados con el sexo.

[12]​ Como más tarde Plant afirmaría: Led Zeppelin II además presenta una cierta experimentación con otros estilos musicales y tendencias, como en el caso de "What Is and What Should Never Be" y "Ramble On" (donde Page usa una guitarra acústica), o la balada con influencias del pop "Thank You".

[6]​ Esta dirección musical culminaría en el cuarto álbum del grupo, y otras bandas llevarían esta tendencia al extremo.

El innovador método de grabación utilizado en temas como "Ramble On" o "Whole Lotta Love" demuestra su habilidad y originalidad como productor.

No me sentía bien allí porque había mucha presión sobre mí, vocalmente, debido a la grabación del disco.

[17]​ La carátula del álbum se diseñó sobre la base de un póster hecho por David Juniper, quien simplemente fue llamado por la banda para crear algo que fuera "interesante".

[6]​ Esta canción alcanzó el puesto número cuatro en el Billboard Hot 100 en enero de 1970, luego de que Atlantic Records fuera contra los deseos del grupo lanzando una versión más corta.

[6]​ El solo de Page en "Heartbreaker" donde se ven notas rápidas tapadas por la otra mano fue una gran inspiración para guitarristas como Eddie Van Halen y Steve Vai.

[22]​ Este disco también inspiró a bandas como Aerosmith, Van Halen y Guns N' Roses.