Estudió en la Universidad de Jena, donde se convirtió en profesor en 1869.
Posteriormente fue profesor ordinario de filosofía en la Universidad de Tübingen, y en 1873 profesor de teología en la Universidad de Giessen.
En el transcurso de sus investigaciones hizo varios viajes hacia oriente.
Merx dedicó gran parte de sus investigaciones a la elucidación del Palimpsesto del Sinaí descubierto en 1892 por Agnes Smith Lewis, los resultados (Die Evangelien des Markus und Lukas nach der Syrischen im Sinaikloster gefundenen Palimpsesthandschrift) forman parte de Die vier kanonischen Evangelien nach dem ältesten bekannten Texte (4 vols., 1897-1905).
Su último trabajo fue una edición de los libros de Moisés y Josué.