En 1958 continúa entrenando al equipo que en tan solo 2 años hizo pasar de fútbol aficionado a estar asentado en 3ª División, con el que se convertirá en el entrenador más laureado de la historia de este club hasta la fecha, siendo el máximo responsable deportivo del CP Villarrobledo en su época dorada.
Las tres temporadas siguientes al ascenso a 3ª División vienes marcadas por magníficas clasificaciones del equipo de Abilio que logró un tercer puesto (1959/60) y dos subcampeonatos (1958/59 y 1960/61), consumando el ascenso a 2ª División este último año.
En 1970, tras los exitosos ascensos cosechados en los últimos años, es fichado por un decadente Albacete Balompié recién descendido a categorías regionales con la obligación de ascender lo antes posible a 3ª División, logrando Abilio Rubio su ascenso esa misma temporada de 1970/71.
En la temporada siguiente, 1971/72, repite por segundo año consecutivo un ascenso a 3ª División, en esta ocasión con el Hellín Deportivo.
Tras dejar el Hellín Deportivo al término de la temporada 1972/73, entrenará equipos de tercera y segunda división B, entre los que cabe destacar, su vuelta en dos ocasiones más al Albacete Balompié y su etapa como entrenador del Alicante CF a principio de los años 80.