Se graduó por el Williams College de Massachusetts en 1834, y comenzó el ejercicio profesional del derecho tras colegiarse en 1837, colaborando con William H. Seward en Auburn, Nueva York.

Desarrolló trabajos pioneros en análisis espectral, y experimentó con la fotografía astronómica.

Inventó distintos instrumentos para facilitar sus estudios, incluyendo un micrómetro para medir fotografías, un dispositivo para fabricar retículas de difracción, y el primer telescopio diseñado específicamente para astrofotografía.

En 1862 comenzó a realizar estudios espectroscópicos utilizando sus nuevas retículas de difracción.

[1]​ Richard Proctor, popular divulgador astronómico del siglo XIX, denominó a Rutherfurd "El fotógrafo lunar más grande de la época."