La canción también ha sido grabada por Buddy Holly, Roy Orbison y el grupo Derek and the Dominos, las versiones de los dos primeros artistas son las más conocidas, y quizás la de Holly sea la más popular.
El artista estadounidense Buddy Holly junto a su grupo The Crickets, grabaron una versión de la canción.
"It's Too Late" fue grabada el 20 de julio de 1957, en ese mismo día también se registró "Send Me Some Lovin'", en la sesión se encontraban: Buddy Holly en guitarra eléctrica y voz, Sullivan en guitarra rítmica, Mauldin en contrabajo y Alison en la batería.
Más tarde entre el 12 y 14 de octubre, Norman Petty insertó coros con el grupo The Picks, en varias canciones de estas sesiones, entre ellas "It's Too Late".
En 1958 en el Reino Unido, Coral Records editó el EP That'll be the Day, con canciones del álbum The "Chirping" Crickets: "That'll Be The Day", "I'm Looking For Someone To Love", "It's Too Late" y "An Empty Cup".