Cinco años más tarde se convirtió en rector.
Durante los trabajos del Concilio Vaticano II, bajo la guía del cardenal Agostino Beadella, preparó los documentos pertinentes sobre ecumenismo, libertad religiosa y relaciones con las religiones no cristianas.
Fue Presidente de la Conferencia Episcopal holandesa (1975-1982) y también vicario militar para los Países Bajos.
Actuó como primer Presidente Delegado en el Sínodo Especial de los Obispos holandeses, en 1980.
Con motivo del centenario de su nacimiento, se organizaron dos simposios en memoria de Willebrands, uno en Utrecht y otro en Roma, para estudiar su relevante papel en el ecumenismo.