Su hermano (1842-1913) también fue pianista, organista y compositor; preparó la Sonata del Salmo 94 para su primera publicación en agosto de 1871.Se trasladó a Berlín en abril u octubre de 1851, donde continuó su educación musical en el Conservatorio Stern, que había sido fundado en 1850 por Theodor Kullak, con quien había estudiado piano; Adolf Bernhard Marx, con quien estudió composición; y Julius Stern.En la ciudad conoció la Nueva Escuela Alemana de mano del director Hans von Bülow y el organista Alexander Winterberger, ambos asociados a Franz Liszt.En este entorno Reubke compuso sus dos obras más destacadas, la Sonata para piano en si♭ menor, que compuso entre diciembre de 1856 y marzo de 1857, y la Sonata del Salmo 94, para órgano, que finalizó un mes después; también consideró componer una ópera.Por esa época, estaba sufriendo un empeoramiento de su tuberculosis y no tenía energías para tocar ni componer.