Era jefe de la escolta del gobernador Manuel Dorrego en el momento en que este fue derrocado, y se negó a entregar el Fuerte de Buenos Aires al usurpador Juan Lavalle, por lo que fue arrestado durante meses.

Al mando de la estratégica isla Martín García fue nombrado el coronel Costa.

Al día siguiente, una fuerza formada por 250 franceses y 150 uruguayos colorados desembarcó en la isla.

La resistencia de infantería y artillería que le opusieron los soldados de Costa y su segundo, Juan Bautista Thorne, fue brillante, a pesar a contar con sólo 100 hombres e inferior armamento.

Cuando este invadió la provincia de Buenos Aires (y pronto se retiró hacia el norte), acompañó al expresidente uruguayo Manuel Oribe y a su segundo, Ángel Pacheco, en la persecución del jefe unitario.

En noviembre, el coronel Hilario Lagos, jefe del ejército de campaña, se levantó contra el gobierno unitario del llamado Estado de Buenos Aires, y puso sitio a la capital.

Pero el sitio se hizo interminable, por la superioridad naval y financiera de los porteños.

Allí fue alcanzado por el ejército del coronel Emilio Conesa y derrotado en la batalla de Villamayor.

Costa y otros pocos fueron tomados prisioneros, sólo para ser fusilados al día siguiente.