Colonna es recordado, sobre todo, porque en septiembre de 1303, junto a Guillermo de Nogaret, canciller del rey Felipe el Hermoso, marchó sobre Roma con trescientos jinetes.
Sin embargo, el papa Bonifacio VIII (perteneciente a la familia Caetani, enemiga acérrima de los Colonna, y que estaba de litigios con el monarca galo) no se encontraba allí, sino en Anagni, hacia donde se dirigieron.
Ante la pasividad de la gente, arrasaron el pueblo e hicieron prisionero al pontífice.
Todos los implicados en estos hechos fueron excomulgados y emplazados a presentarse ante un tribunal pontificio.
Tras su muerte en Venecia, su cuerpo fue trasladado a Roma y sepultado en la Basílica de Santa María la Mayor.