Debe su nombre al exvicepresidente boliviano Enrique Baldivieso.

Su capital es San Agustín, situada en la orilla del río Turuncha.

[1]​ Hasta 1885, cuando surgió la división política actual, el antiguo Ayllu de los Lípez, se trasformó en la "provincia de Lípez", que estaba formada por 3 cantones: San Cristóbal, San Pablo y Llica.

La actual provincia de Enrique Baldivieso quedaba en la jurisdicción del cantón San Cristóbal.

La estrecha franja territorial de Enrique Baldivieso se extiende por el Altiplano en un territorio bastante accidentado por cordones montañosos ("lomas") entre los cuales se hallan estrechos y pequeños valles y pampas a más de 2000 m s. n. m., en el fondo de los valles corren torrentosos arroyos y ríos entre los cuales se destaca el Alota, en las pampas se encuentran lagunas salobres como la Laguna Tarija (casi en el centro de esta provincia).