Él era un astuto e inteligente joven, y se crio con sus tías hasta los 16 años de edad.

Aunque la mayoría de las canciones fueron creadas con el nombre musical de Andre Williams and the Don Juans —en el año 1956 con Epic Records pasaría llamarse Andre Mr Rhythm Williams and his New Group—, «Bacon Fat» y «Jail Bait», fueron grandes éxitos.

En 1960, Fortune Record publicó un LP completo, de todos sus singles con The Don Juans, que fue titulado Jail Bait —reeditado en 1986—, comenzando así su fama a nivel nacional.

«Shake a Tail Feather», interpretada por The Five Du-Tones en 1963 y después por Ike & Tina Turner también fue un éxito.

Además, en los años 1960, Williams era el mánager del cantante de soul Edwin Starr.

En 1999, comenzó su relación con la Bloodshot Records con la grabación de un álbum country con el grupo canadiense The Sadies, titulado Red Dirt.