Se alojó en el Beat Hotel, ocupando una habitación que acababan de dejar libre Allen Ginsberg y Peter Orlovsky.
Mientras se ganaba la vida vendiendo el International Herald Tribune por Le Chat qui Peche y el Barrio Latino, conoció a Terry Riley y visitó los club de jazz de la zona.
Junto a Kevin Ayers y Mike Ratledge, fundaron en 1966 el grupo Soft Machine.
En esa época, los componentes del grupo vivían en Francia, en una suerte de comuna anarquista rural.
El primero surgió durante unas vacaciones que pasó en Mallorca donde se encontró con un grupo local llamado Euterpe con quien inició una colaboración y allí mismo grabaron conjuntamente Good Morning (1976).
Parte de este concierto (que duró varias horas) se editó en un LP doble, Gong Est Mort?
Lo siguieron varios proyectos, con nombres como Invisible Opera Company Of Tibet, Brainville, Ex y Magic Brothers.
También ha grabado con Spirits Burning, un supergrupo de space rock formado por Alan Davey, Bridget Wishart, Karl E.
[cita requerida] Allen tuvo cuatro hijos, dos con Gilli Smyth y dos con otras madres.