Floyd nació en el pueblo de Montgomery, Alabama, y creció en Detroit, Míchigan.
Luego se asoció con el guitarrista de Stax, Steve Cropper, para escribir canciones para Wilson Pickett, ahora firmado con Atlantic Records.
Marcó varios éxitos más por su cuenta, incluyendo "Nunca he encontrado a una chica (To Love Me Like You Do)" y "Raise Your Hand", que fue cubierto por Janis Joplin y Bruce Springsteen.
La canción "Big Bird" (con Booker T. Jones en el órgano y la guitarra, Al Jackson, Jr.
Casi todos los artistas de Stax grabaron material de Floyd, a menudo coescrito con Cropper o Jones, incluidos Sam y Dave ("No sabes lo que significas para mí"), Rufus Thomas ("The Breakdown"), Otis Redding ("Te amo más de lo que las palabras pueden decir", y Johnnie Taylor, "Just the One (I Haveed For)".
En 1980, Floyd lanzó material sobre el sello discográfico británico I-Spy Records, propiedad y creado por la banda secreta del Reino Unido.
En 2008, Floyd regresó a Stax Records, propiedad de Concord Music Group desde 2004.
Su primer nuevo álbum en seis años, Eddie Loves You So, fue lanzado en julio de 2008.