Forma parte de una extensa familia de músicos, entre los que destacan su abuelo Clamor Heinrich Abel, su padre Christian Ferdinand Abel, y su hermano menor Karl Friedrich Abel.
En 1766 fue nombrado concertino en la orquesta de Brandenburg-Schwedt, para finalizar en 1770 como primer violín en la capilla del Príncipe de Mecklemburgo-Schwerin.
Tuvo dos hijos, August Christian Andreas, y Friedrich Ludwig Aemilius, también dedicados al violín.
Además, su nieto Ludwig fue violinista en la ciudad suiza de Basilea y, años más tarde, en Múnich.
Entre sus escasas composiciones cabe destacar los "24 pequeños estudios" para violín, además de su "Sinfonía en D" escrita en 1776 y su "arpeggien" para dicho instrumento.