A los 14 años ingresó en la Escuela de la Agrupación Musical de Innsbruck, donde estudió violín (con J. Alliani), y piano y teoría musical (con M. Goller) hasta 1833.
Allí residiría el resto de su vida salvo algunos viajes que hizo para dar conciertos.
Durante la siguiente década Rufinatscha comenzó a hacerse un nombre en la capital austriaca y sus composiciones fueron alabadas, incluso se le llegó a predecir una brillante carrera como compositor.
Entre sus alumnos se encontraron el pianista Julius Epstein, el pianista y compositor Ignaz Brüll, así como el violinista Edouard Rappoldi y el compositor Wilhelm Weckbecker.
Desde 1880 y hasta su muerte, trece años más tarde, no volvería a componer.