Ingresó oficialmente en el ejército austriaco como cadete, en 1801, cuando contaba 15 años.

Más tarde, se distinguió durante las operaciones austriacas en Italia entre 1815 y 1847, Haynau fue ascendido en varias ocasiones, logrando el rango de lugarteniente de mariscal del campo.

Luchó con éxito en este país, en el que se dio a conocer por la severidad con la que reprimió un levantamiento en Brescia y el castigo a sus promotores, cuando una multitud atacó a soldados austriacos inválidos en el hospital y von Haynau ordenó la ejecución de un gran número de atacantes.

Años más tarde, viajó al extranjero, Inglaterra y Europa occidental.

Su reputación de brutalidad se había extendido en toda Europa occidental.

En Londres, fue atacado por unos carreteros de la cervecería Barclay & Perkins que le arrojaron barro y estiércol y le persiguieon por Burough High Street, gritando "Abajo con el carnicero austriaco!".

[6]​ Beauregard no explicó su alusión, creyendo que sus agentes conocían la reputación de Haynau.