Sus primeros pasos los dio en la Liga Provincial de Yacuiba, saliendo campeón varias veces.[3] En 2008 logró el campeonato de la ATF, aunque el 2008 no participó en la antigua Copa Simón Bolívar porque no fue inscrito en el tiempo reglamentario por la ATF, debido a la impugnación que se le hizo al club Ciclón por ganar el partido que disputó frente al club Petrolero fuera del reglamento, y por tanto Petrolero es declarado Campeón 2008.En 2010, Petrolero logró que fuera aceptada su solicitud para ser local en Yacuiba, jugó en su estadio y el 2011 consiguió ser el campeón tarijeño de la ATF,[9][10][11] se clasificó al Nacional B 2011/12 con el objetivo de llegar a la Liga del Fútbol Profesional Boliviano mediante este certamen.Anteriormente el Club disputaba sus partidos como local en el Estadio Federico Ibarra Olarte que posee una capacidad para 9 000 espectadores y que está ubicado en la comunidad de campo Pajoso a 8 km de Yacuiba.Principalmente tiene viajes a ciudades del sur boliviano como Sucre y Tarija, donde juega el Clásico Tarijeño con Ciclón, también tiene viajes a Potosí y en poco número al norte del país.Los clásicos de Petrolero son versus Ciclón, Unión Tarija, Atlético Bermejo y las más reciente con San Isidro (que completan a los 5 grandes).El Club Petrolero mantiene una fuerte rivalidad con Ciclón, y los partidos que disputa con este también son considerados como clásicos.El partido con Unión Tarija es uno de los más importantes a nivel regional, y es considerado como "clásico" en sí.
