Ese mismo año se hizo miembro de las SA (Sturmabteilung).

La pena fue levantada en febrero de 1932; Ernst fue condenado a una multa por agravios.

También se publicaron cartas falsificadas del teniente Paul Schulz (que consiguió sobrevivir la Noche de los cuchillos largos huyendo al extranjero), en las cuales Ernst era llamado «Frau von Röhrbein», la señora de Röhrbein, haciendo referencia a su larga relación con Paul von Röhrbein (que había ayudado a Röhm a subir dentro del partido).

Según un protocolo que se ha conservado, el jefe de las gentes de Stennes dijo, refiriéndose a Ernst y Röhrbein: «Ahí, mirad a los parásitos del partido, estos mariquitas, estos malditos que se dan por el culo, que dejan arruinar el buen nombre del partido.

[4]​ En 1931 También había tenido cierta amistad con Arnolt Bronnen y Guillermo II de Alemania.

En el yate que Erik Jan Hanussen tenía en el Wannsee, habría participado en orgías con sus camaradas de las SA.

Sin embargo, Hitler se había decidido por el Reichswehr y contra las SA.

Hermann Göring y Heinrich Himmler organizaron una gran purga dentro del Partido Nazi cuyo objetivo era neutralizar el ala izquierda del movimiento nacionalsocialista y acabar con Röhm.

Según una teoría habría, junto con una tropa de las SA, entrado en el Reichstag desde el domicilio oficial del Presidente del Parlamento, que en la época era Hermann Göring, a través de un túnel secreto.

Allí habrían repartido gasolina y otros productos químicos, para abandonar el edificio por el mismo camino.

Marinus van der Lubbe, detenido y condenado oficialmente por el incendio, estaría en el edificio en eses momento por casualidad o habría sido colocado allí como chivo expiatorio.

[10]​[5]​ Karl Ernst fue representado en un telegrama decorado que se editó para el Congreso del Partido de 1936.