Cofundó la editorial "New Writers' Press" en Dublín en 1967, y en 1968 fue socio fundador de la revista The Lace Curtain - A Magazine of Poetry and Criticism, encuadrada dentro del National Writing Project.

Entre sus primeros libros: Sole Glum Trek (1967), Watches (1968), Pentahedron (1972) y The Poems of Sweeny Peregrine (1976).

Tras un prolongado silencio de 20 años, Joyce reemprendió su carrera poética con Stone floods (1995), obra a la que siguió Syzygy y Without Asylum (1998).

Joyce ha experimentado también con proyectos poéticos en colaboración a través de Internet: OffSets.

Para 2008 se esperan nuevas traducciones suyas del irlandés, bajo el título: Courts of Air and Earth.