En 1948 se ordenó pastor bautista y dos años después se licenció en matemáticas en el Alabama State College.
Fundó diversas organizaciones dedicadas a lograr la igualdad para la población negra en Estados Unidos.
En 1957, Abernathy y sus colegas Martin Luther King Jr.
En 1977 renunció a la presidencia de la SCLC y se presentó a las elecciones para ser elegido congresista, pero no alcanzó tal puesto.
En 1989 publicó Y los muros están comenzando a caer, su autobiografía.