Se inició pronto en la carrera de las armas, quizás por un deseo vengativo pues su padre había muerto asesinado en La Paz por los rebeldes cuzqueños en 1814.
Regresó en 1818 como ayudante del intendente Sánchez Lima, el siguiente año, en convivencia con otros jóvenes militares, se plegó a la fuerza patriota del coronel José Miguel Lanza en Ayopaya.
Estuvo presente en 1828, cuando se produjo el ingreso a Bolivia del general peruano Agustín Gamarra y el consiguiente tratado de Piquiza.
En enero de 1831 Ballivián se casó con María Mercedes Coll Rivero, hija del español Andrés Coll Montorel y de la chuquisaqueña María Rivero Lemoine.
A la caída del mariscal Santa Cruz y de la Confederación Perú-Boliviana, se proclamó presidente.
Ballivián, desengaño por las promesas incumplidas por Gamarra, decide enfrentarlo, pero buscó ayuda de su enemigo Velasco, quien era reconocido por se un patriota republicano, este le cedió su ejército veterano que ya tenían comandantes de divisiones.
El ejército que llevaba Ballivián creció enormemente gracias al aporte de Velasco.