[1]​ Desde una edad temprana mostró una gran afición por la ciencia, dedicando todo su tiempo libre a realizar experimentos químicos y eléctricos.

Se graduó en el Instituto Politécnico Rensselaer de Troy (Nueva York) en 1870, obteniendo un puesto en el Ferrocarril Oeste de Nueva York.

Sus estudios sobre las propiedades magnéticas del hierro y del níquel en el año 1873 le valieron la consideración y la amistad de James Clerk Maxwell, lo que influyó decisivamente en su nombramiento en 1876 para ocupar la cátreda de Química en la universidad Johns Hopkins de Baltimore.

A Rowland se debe la demostración de que una carga eléctrica en movimiento equivale a una corriente eléctrica (recíprocamente, una corriente es el resultado del movimiento de cargas eléctricas) mientras completaba su formación a las órdenes de Hermann von Helmholtz en su laboratorio de Berlín (1875-1876),[2]​ donde llevó a cabo una conocida investigación sobre el efecto de un cuerpo cargado eléctricamente en movimiento, mostrando que genera un campo magnético.

El nombre de Rowland se halla también ligado a las redes de difracción y de reflexión, que se construyen trazando líneas paralelas ente sí sobre una superficie metálica transparente, y a las redes cóncavas.