El nombre les fue dado porque hicieron un infierno para la presencia de las tropas coloniales o «realistas».
El líder salteño había solicitado a Buenos Aires que se instalara un ejército con ese propósito, pero el Director Supremo de las Provincias Unidas, Ignacio Álvarez Thomas, lo consideró innecesario, por lo que Güemes reunió su propio ejército.
Los fundamentos fueron que convenía reunir en un cuerpo orgánico a los gauchos, que hasta ese entonces habían combatido en forma desinteresada por la libertad de la Patria: El gobierno central porteño se negó a su creación: "No hay motivo que justifique la creación de un Cuerpo de Línea en esa Provincia donde no hace falta”.
Güemes formó dicho Regimiento, al contrario de lo que algunos sostienen acerca de ser un cuerpo poco organizado, contaba con los siguientes efectivos: 2 Jefes, 16 oficiales, 32 cabos, 16 músicos y 336 Infernales.
Aunque la indumentaria por la que se conoce a los infernales es aquella en la que cada soldado viste una ropa de gaucho norteño, es decir un chambergo de alas anchas, un poncho teñido de rojo o colorado con listas y guardas negras, montados sobre ágiles caballos protegiendo estos gauchos sus piernas con "guardamontes" de cuero y usando como arma principal una lanza.