Poco después tuvo oportunidad de grabar en Chess y en Motown, pero su padre decidió que era mejor anteponer sus estudios a una carrera musical.
Más tarde, con éxito, hizo una audición para Epic en 1961, y se trasladó hasta Nueva York para grabar.
Su primer álbum Her name is Erma apareció en 1962, en el que incluía jazz y pop con algunos singles R&B como "Abracadabra", escrito por Van McCoy.
Cuando Aretha se fue a la discográfica Atlantic, Erma firmó en 1967 un contrato con Shout Records y el productor Bert Berns.
Ese mismo año lanzó el sencillo "Piece of my heart" convirtiéndose en el mayor éxito que había tenido hasta el momento, pero desafortunadamente Bert Berns, a finales de 1967, falleció de un ataque al corazón dejando a la compañía en el caos.