El Rabino Aaron Wise ayudó a Bernard Fischer a revisar el léxico Buxtorf y durante varios años fue director de escuelas en su ciudad natal.
Durante un tiempo se identificó con el partido haredí en Hungría, actuando como secretario de la organización Shomer Ha-Dat y editando un semanario en yidis.
En 1873, Wise emigró a los Estados Unidos y en 1874 se convirtió en rabino de la Congregación Baith Israel en Brooklyn; dos años más tarde fue nombrado rabino del templo Rodeph Shalom en Nueva York, cargo que ocupó hasta su muerte.
Su esposa fue Sabine Fisher (nacida alrededor de 1844), con quien se casó en 1864; tuvieron tres hijas y tres hijos, incluido el Rabino Stephen Samuel Wise.
Aaron Wise, era hijo del rabino jefe Joseph Hirsch Weiss.