Burgess fue contratado cuando se forma AC/DC en 1973, uniéndose a Malcolm Young (guitarra rítmica), Angus Young (guitarra principal), Dave Evans (voz) y Larry Van Kriedt (bajo).
Fue reemplazado por una sucesión de bateristas hasta que se incorporó Phil Rudd.
Se asoció con su hermano Denny a finales de la década de 1970 principios de los 80 en la banda de rock pop His Majesty que se transformó en la banda "Good Time Charlie" con John Botica como guitarrista en reemplazo al guitarrista Dai Pritchard (Billy Thorpe, Rose Tattoo).
Good Time Charlie realizó giras por el sudeste de Asia y grabó un álbum titulado 'Adults Only', que fue producido por John Robinson, exintegrante de la banda australiana Black Feather.
En forma más reciente, Colin y su hermano Denny han tocado y grabado bajo la designación "The Burgess Brothers Band".