Es considerado "el más federal de los artistas", tras haber cantado en todas las provincias del país en repetidas ocasiones.[8] Formó parte del Cuarteto Berna, en el cual lo empezaron a llamar Carlitos Jiménez por primera vez.El matrimonio tuvo tres hijos: Lorena (actriz y música), Carlos -conocido como Carli- (que se dedica a la música junto a su padre, especialmente produciendo)[11] y Natalia (quien es diseñadora de su vestuario).Luego de la realización del examen genético, Jiménez reconoció a su hija ante la justicia.[7] Durante la dictadura militar que se erigió en Argentina, conocida como Proceso de Reorganización Nacional, el cuarteto en general fue perseguido.Cuando en 1983 asumió Raúl Alfonsín y la democracia volvió a la Argentina, preparó su lanzamiento como solista.Meses después, edita el disco Para toda América, donde tuvo su primer gran éxito: La flaca la gasta.Se superan todas las previsiones y la plaza coscoína es abarrotada por más de 100 000 personas, esto provoca desmanes entre el público y la suspensión del show, cuando La Mona apenas había cantado tres canciones.[17][18] En el mismo año tocó por primera vez en Buenos Aires, en el microestadio de Atlanta y participó en la película Las locuras del extraterrestre, de Carlos Galettini, protagonizada por Emilio Disi y Javier Portales.Estuvo en España, donde en Cádiz, Valencia y Madrid cantó el ritmo del cuarteto.Volvió nuevamente al año siguiente, en junio de 2015, con un éxito total en esas dos presentaciones.Esta primera edición contó con la participación de L-Gante, Damas Gratis, Los Palmeras, Los Caligaris y Karina la Princesita, entre otros artistas.Con este nuevo formato «La Mona» se reinventó, ofreciendo conciertos masivos a comparación de sus habituales bailes populares.Todo esto junto a la amplia variedad gastronómica que ofrece el lugar.[7] Ha cantado con una abundante cantidad de reconocidos artistas de otros géneros musicales, entre los cuales se destacan Fito Páez,[43] Charly García, Andrés Calamaro,[44] Manu Chao,[44] Pato Fontanet, Martín Fabio, Pity Álvarez, Bersuit Vergarabat,[43] Alejandro Lerner,[19] Palito Ortega,[19] Raly Barrionuevo,[19] Javier Calamaro[19] y Slim Dee, entre otros.A esta lista se le agregan también músicos de su mismo género tales como Ulises Bueno y Damián Córdoba.[47][48] En el año 2010, junto al periodista Jorge Cuadrado, publicó una autobiografía, cuyo título es Juan Carlos Jiménez Rufino, La Mona.
Espacio dedicado a La Mona Jiménez en el Museo del Cuarteto.