Después de sus estudios en la École Normale Supérieure, obtuvo la agrégation en historia y geografía en 1900 y luego se continuó en la École française de Rome (1901-1903).
Luego se convirtió en comisario jefe de antigüedades griegas y romanas en el Museo del Louvre de 1921 a 1946.
En 1928 fue elegido miembro de la Académie des Inscriptions et Belles-Lettres, de la que fue secretario permanente hasta 1964.
Merlin solicitó de las autoridades marítimas locales apoyo financiero para lanzar la primera campaña de excavación arqueológica bajo el agua en el naufragio de Mahdía.
De este modo, sacó a la superficie algunos objetos artísticos atenienses que databan del siglo I a. C., incluido la famosa Herma de bronce de Dioniso, firmado por el escultor Boeto de Calcedonia.