Yoder inició sus estudios en Goshen College, donde estudió bajo la influencia del teólogo menonita Harold S.

Durante la Segunda Guerra Mundial, Yoder viajó en Europa para dirigir esfuerzos de asistencia para el Comité Central Menonita.

Yoder fue instrumental en reanimar a los menonitas europeos luego de la Segunda Guerra Mundial.

Yoder comenzó su carrera docente en el Goshen Biblical Seminatry.

Mientras enseñaba en Associated Mennonite Biblical Seminary, comenzó a enseñar en la Universidad de Notre Dame, donde llegó a ser Profesor de Teología.