En 1891 fundó junto a su cuñado, José Castillejo y de la Fuente -primo del prestigioso catedráticoJosé Castillejo Duarte- el diario político independiente El Meridional, y fue también fundador -de nuevo junto a José Castillejo y de la Fuente- y director del semanario literario Revista Meridional.[3] De su faceta como político destaca su activo papel al frente del partido que él mismo fundó, conocido como el Partido Fernandista, y que tuvo numerosos partidarios en la provincia de Córdoba.Su extensa carrera política le llevó a ocupar el puesto de diputado a Cortes en las legislaturas de 1905, 1910, 1918, 1920 y 1923, primero con el partido Liberal, más tarde con el partido Prietista, y por último junto a los Demócratas Independientes.[4] En las cinco legislaturas en que sale elegido diputado a Cortes por la circunscripción de Córdoba, por el distrito de Montilla, José Fernández Jiménez coincide con otro político cordobés, Niceto Alcalá-Zamora (principalmente elegido por la circunscripción de Jaén) que pertenece a su círculo íntimo, tanto en la esfera personal como política.En el retrato que, sobre Fernández Jiménez, traza Antonio Cortés en Semblanza de don José Fernández Jiménez también narra este capítulo de su detención:(...) Después del golpe del 18 de julio y bajo el régimen del terror impuesto por “Don Bruno”, en Córdoba, el exdiputado, exgobernador y exalcalde, es incomprensiblemente encarcelado ingresando en la cárcel de Córdoba donde fue visitado por su hijo José Luis para que le firmase unos documentos, probablemente una autorización para obtener dinero a cambio de su libertad, pues consta que fue excarcelado.
