Estudió en el colegio donde su padre era rector, y más tarde se licenció en Filosofía.
Su primera novela, La Fête espagnole, fue premio Deux Magots, en 1959, aunque su obra más conocida es Les pianos mécaniques, conocida en español como Los organillos, premio Interallié, en 1962.
De su relación con Christiane Rochefort surgió la novela Le Repos du guerrier, de la cual Roger Vadim hizo una película, conocida en castellano como El descanso del guerrero, con Brigitte Bardot.
Durante los últimos 25 años de su vida residió en Cadaqués, donde hizo amistad con Salvador Dalí, sobre el que escribió un ensayo titulado Dalí en su laberinto, en 1974.
Estaba casado con Pilar, una catalana hija del dueño de la galería de arte "La Pinacoteca", quien repatrió sus cenizas a Cadaqués, dónde había residido 30 años.