Fue abogado y diplomático, representante a la Cámara en 1898 por Bogotá, Ministro de Guerra en 1901, embajador en Estados Unidos en 1902.

José Vicente estudió en el centro de instrucción católica Colegio Pío Nono, donde trabaja su padre y del cual también era fundador.

También fue un activo crítico del gobierno durante la Guerra de los Mil Días, solicitándole al ministro Guillermo Quintero medidas menos severas contra los adversarios liberales.

Concha renunciaría en noviembre del mismo año debido a diferencias con el presidente, ya que Marroquín solicitó a Estados Unidos la intervención en el istmo, basándose en el Tratado Mallarino-Bidlack de 1846, para derrotar a los liberales de Panamá (siendo un hecho decisivo para la causa independista de los panameños, que se convirtieron en país soberano en 1903).

[2]​ También fue elegido congresista, donde mantuvo una fuerte oposición al gobierno de su copartidario Rafael Reyes.

Concha participó en la Asamblea Nacional de 1910, que hizo importantes reformas a la Constitución de 1886, con la cual se estableció el voto directo, modalidad que le beneficiaría en sus aspiraciones presidenciales 4 años después.

[2]​ También publicó en 1911 la obra Apuntamientos de Derecho Constitucional, que contó con 3 ediciones hasta 1923.

[12]​ Logró la victoria con un amplio margen, pese a los buenos resultados resultantes del gobierno de Restrepo y el apoyo del gobierno al candidato por la Unión Republicana, Nicolás Esguerra.

Concha logró mantener una relación cordial entre los dos partidos tradicionales, en plena hegemonía conservadora.

[13]​Gobernó durante la Primera Guerra Mundial, logrando preservar la neutralidad de Colombia en el conflicto.

[13]​También firmó el Tratado Muñoz Vernaza-Suárez con Ecuador en 1916 para establecer las fronteras entre los 2 países[14]​ y logró que las exportaciones del café se convirtieran en la mayor actividad económica del país, superando el 50% de los ingresos de Colombia.

Gracias al nombramiento Marco Fidel Suárez, el país logró mantener la neutralidad.

A pesar de ello, el gobierno creó títulos valores o vales, para respaldar las obligaciones vigentes.

Su cuñada Emma Cárdenas Mosquera (quien junto a Elvira era hija del militar Jeremías Cárdenas Silva) estaba casada con el hijo del expresidente Julián Trujillo Largacha, Guillermo Trujillo Carvajal.

[24]​ En el municipio de Pandi, Cundinamarca, se bautizó un puente (erigido en épocas del presidente Concha, en 1916) como Puente José Vicente Concha, el cual hace parte del complejo víal conocido como el Camino Real, que conectaba a los municipios de Honda, Melgar, Icononzo, Pandi, Arbeláez, Fusagasugá, Sibaté y Soacha con Bogotá.