También en su ciudad natal fundó la Sociedad Literaria Antonio Nariño, en asocio con algunos condiscípulos suyos del Liceo San Fernando de los Hermanos Maristas, con quienes produjo el periódico Nuestro Órgano de Publicidad.
Poco después, fundó la Sociedad Caldas, en homenaje al Sabio payanés, órgano que publicó el periódico El Novicio.
A estas dos sociedades les seguiría la fundación de una tercera, llamada El Petit Payanés, que produjo un periódico del mismo nombre.
En Brasil, simultáneamente a su labor diplomática, colaboró en el periódico O Estado Do Pará.
Además de su actividad como periodista, Arboleda también ejerció cargos diplomáticos en distintos países.
Arboleda es reconocido como uno de los historiadores más sobresalientes del país[5] gracias a la amplitud de temas poco explorados que cubre en sus obras, en las que destacan su rigor y su espíritu investigativo.