Tras cinco operaciones y varias reapariciones fallidas, tuvo que abandonar su carrera como jugador.

[5]​ En total, disputó cuarenta y siete partidos en la Liga, en los que marcó seis goles.

En su primer año dejó al equipo en cuarta posición y, en la temporada 1982-83, ganó la Liga.

[7]​ En el año 1984 consiguió un doblete al proclamarse campeón de la Liga y la Copa del Rey.

La revista Don Balón le concedió su galardón al mejor entrenador de la competición durante esas dos temporadas consecutivas.

En los dos años siguientes el equipo quedó tercero, finalista de Copa en 1985 y semifinalista en 1986.

En su primer año con el conjunto periquito, la temporada 1986-87, consiguió un tercer puesto en la tabla clasificatoria, que supuso la mejor posición liguera en la historia del equipo.

[10]​ Por ello, volvió a ganar el Premio Don Balón como mejor entrenador.

[11]​ Clemente fue cesado y sustituido por Pepe Mauri en la jornada 25 de la temporada 1988-89, cuando el equipo iba en 18.ª posición con diecisiete puntos.

Firmó un contrato por una temporada, prorrogable según resultados,[16]​ pero fue relevado de su cargo en la jornada 26 debido a la mala marcha del equipo.

[17]​ En la temporada 1991-92, el Español lo contrató de nuevo para intentar salvar al equipo del descenso.

Clemente entrenó al conjunto barcelonés en los últimos veinte partidos de Liga, consiguiendo diez victorias y cuatro empates que certificaron la permanencia.

En las dos primeras competiciones, España cayó en cuartos de final contra Italia e Inglaterra, respectivamente.

[22]​ En la temporada 1998-99 Javier Clemente dirigió al Real Betis Balompié, convirtiéndose en el cuarto entrenador del equipo sevillano en tres meses, tras Luis Aragonés, António Oliveira y Vicente Cantatore.

[10]​ En la jornada 9 de la campaña 1999-2000 fue fichado por la Real Sociedad para sustituir al cesado Bernd Krauss.

[10]​[27]​ En la jornada 26 de la temporada 2001-02 fue contratado por el C. D. Tenerife para intentar salvar al equipo del descenso, siendo en esos momentos colista destacado.

Tras casi dos años sin entrenar, en 2005 fue contratado por el Athletic Club para relevar a José Luis Mendilibar.

[30]​ Clemente había pedido una serie de fichajes que incluía a Gorka Iraizoz, Raúl García, Iñaki Muñoz, Josu Sarriegi e Igor Gabilondo; sin embargo, las únicas incorporaciones del club ese verano fueron Gabilondo, Sarriegi y el entonces juvenil del C. A. Osasuna, Javi Martínez.

[31]​ Tras su salida del club, el técnico declaró que «Lamikiz me ha vendido vilmente».

Debutó el día 16 de agosto contra la República Checa y renovó a una envejecida selección, incorporando nuevos valores como Milan Smiljanić.

[43]​ En total, dirigió al Sporting durante deciséis encuentros, consiguiendo la victoria en cinco ocasiones, empatando en tres y cayendo derrotado en ocho.