Nació en Eisleben,[1] por lo que a veces se le conoce como Magister Islebius.
Después de dar lecciones por algún tiempo en Wittenberg, fue a Fráncfort del Meno en 1525 para implantar el culto protestante.
Agricola fue el primero en enseñar los puntos de vista que Lutero había sido el primero en estigmatizar en nombre del antinomismo, sosteniendo que, mientras los no cristianos aún estaban sometidos a la "Ley de Moisés", los cristianos estaban enteramente libres de ella, debiendo solo obediencia al Evangelio.
Agricola conservó los dos cargos hasta su muerte en 1566, y su carrera en el Margraviato de Brandeburgo fue muy fructífera.
Fue una ironía que uno de los reformadores más radicales terminara la vida capitulando ante los católicos.