Rupp es educado en la Geelong Grammar School como pupilo, donde un tío John Bracebridge Wilson, naturalista, era el director.

Comienza a registrar sus observaciones botánicas y los especímenes en 1892; en 1899 hace 'un censo de las plantas nativas' de su parroquia.

Le envía notas sobre orquídeas' a Joseph Maiden que las publicará en Australian Naturalist (abril de 1924).

Rupp publica más de 200 artículos en los siguientes treinta años.

En 1949 Rupp es galardonado con la Medalla Clarke por la Royal Society of New South Wales; y la Medalla Australiana de Historia Natural por la Field Naturalists Club of Victoria en 1954.