[2]​ Cuatro años más tarde aparecerá su primer poemario, La invitación al olvido, claramente cernudiano, como el mismo Arteche ha reconocido[1]​ (luego vendrá la influencia de Thomas Wolfe y otros).

Pasarán la luna de miel en Ibiza y a lo largo de su unión tendrán siete hijos: Juan Miguel, Andrea, Rafael, Cristóbal, Isabel, Amparo e Ignacio.

En 1963 reemplazó al fallecido Eduardo Barrios como miembro de la Academia Chilena de la Lengua y al año siguiente debuta como narrador con La otra orilla, que tiene "una calurosa acogida por la crítica";[4]​ a esta novela la seguirán otras tres y dos libros de relatos.

Bajo el gobierno democristiano de Eduardo Frei Montalva fue agregado cultural en España (1965-1970), y ese último año asumió el mismo cargo en la embajada de Chile en Honduras, país donde permaneció hasta 1971 ejerciendo al mismo tiempo como profesor visitante en la universidad.

Así calificó de "peste" a la antipoesía de Nicanor Parra; dijo que Raúl Zurita no tenía oficio de poeta y como parte del jurado que dio a este el Premio Nacional, se negó a firmar el acta; al mismo galardón obtenido en 2002 por Volodia Teitelboim lo llamó El Premio Nacional de la Política.