[1]​ Durante su servicio en la Marina Real británica visitó Alejandría, Egipto, en 1818.

En 1824 conoció en Roma a Joseph Bonomi, que le contrató como artista para que lo acompañara a Egipto.

Permanecieron allí desde noviembre de 1824 hasta 1828, y de 1829 a 1834, registrando monumentos e inscripciones, y realizando una gran cantidad de planos arquitectónicos.

Sus manuscritos se encuentran ahora, en su mayoría, en la Biblioteca Británica, y muchos de sus moldes de yeso en el Museo Británico.

[1]​ En mayo de 1828, Hay visitó Malta, donde se casó con Kalitza Psaraki, hija del magistrado jefe de Apodoulou en Creta, con quien tuvo dos hijos.