Su familia, de origen irlandés, había emigrado al sur de la península itálica, donde su padre había servido como brigadier general a las órdenes del rey.
Siguiendo los pasos de su progenitor, Dillon se inscribió en la escuela militar de Nápoles para iniciar su carrera en el ejército.
Su labor de inspección de los principales puertos y canales de Francia le permitió estrechar lazos con numerosos científicos e ingenieros franceses, que a su vez se beneficiaron del conocimiento que Dillon tenía de las técnicas utilizadas tanto en Nápoles como en Holanda.
Cuando se inauguró en 1798, contaba con naranjos en grandes maceteros para dar sombra, y se había previsto una galería acristalada para proteger a los transeúntes de las inclemencias meteorológicas.
Su prematuro fallecimiento impidió que pudiera dirigir las obras del parisino puente de Jena, también sobre el río Sena.