Su carrera despegó cuando actuó en la película de Jerry Lewis: El profesor chiflado en (1963).
Gibson apareció en The Dick Van Dyke Show, declamando el poema "Keep A Goin'", que luego convirtió en una canción en la película de Robert Altman Nashville en (1975), protagonizada por Ned Beatty y Keith Carradine.
Gibson apareció en otras tres películas dirigidas por Altman: The Long Goodbye (con Elliott Gould), A Perfect Couple y Health.
También apareció en The Incredible Shrinking Woman (con Lily Tomlin).
Fue nominado para un premio Golden Globe por Nashville y ganó un premio de la National Society of Film Critics por su rol como el cantante de música country Haven Hamilton.