Fue uno de los compositores mexicanos con mayor producción musical en el siglo XX; su obra abarcó un amplio rango de géneros, desde baladas, sonatas y canciones, hasta sinfonías y óperas pasando por conciertos para algún instrumento, como su Concierto para trompetas, así como música cinematográfica.
Su madre fue la escritora veracruzana Magdalena Mabarak; su padre, Antonio Jiménez Rojo, inspector ferroviario.
Su niñez y juventud las vivió en diversos países, pues su madre trabajaba en el servicio diplomático.
La familia se trasladó a Guatemala cuando Carlos contaba con seis años.
En 1936 obtuvo su diploma, además de haber ganado un primer premio en piano.
En la Sierra y costa de Oaxaca, Jiménez Mabarak recogió importantes experiencias que fueron decisivas en sus siguientes obras para danza.
También se vale de algunos recursos magnetofónicos para crear determinados efectos en sus obras.
Respecto a la relación con sus contemporáneos, a Jiménez Mabarak se le puede situar entre dos generaciones: la del último impulso nacionalista, formada por los compositores del Grupo de los Cuatro, y la llamada Tercera Generación, con los compositores nacidos al final de los años veinte y treinta (compositores de la Nueva Música de México: Manuel Enríquez, Joaquín Gutiérrez Heras, Francisco Savín, Leonardo Velázquez, Rafael Elizondo, Mario Kuri Aldana, etcétera).