Fischer nació en Waldheim, Sajonia, hijo del propietario de una tejeduría de lino.
Estudió medicina en Leipzig y continuó sus estudios en Viena y París con su amigo Alexander von Humboldt, donde tuvo como profesor a Georges Cuvier.
Fischer estuvo principalmente comprometido con la clasificación de los invertebrados, resultado de lo cual fue su Entomographia Imperii Rossici (1820-1851).
También dedicó mucho tiempo al estudio de fósiles.
La abreviatura Fischer se emplea para indicar a Johann Fischer von Waldheim como autoridad en la descripción y taxonomía en zoología.