El padre de Allin prohibía toda conversación al anochecer, debido a su inestabilidad mental por su fanatismo religioso.

Era un hombre antisocial, que abusaba físicamente de su esposa e hijos, aunque GG nunca usó esto como excusa para sus problemas personales.

En 1961, Arleta se divorció de su esposo, ya que su inestabilidad mental estaba empeorando.

Arleta había permitido que su nombre original se mantuviera hasta este punto y finalmente lo cambió para que su hijo tuviera una oportunidad de llevar una infancia normal, libre de burlas.

Allin era un pésimo estudiante en la escuela, fue enviado a clases especiales y repitió tercer grado.

Más adelante se convertiría en el baterista de la banda Stripsearch, liderada por una chica.

Grabaron un vinilo de 7 pulgadas con las canciones "Galileo" y "Jesus in New York".

El contenido de las letras era humorístico y descarado, pero aún no era ofensivo a rabiar.

La cinta también contenía grabaciones en vivo con un supergrupo creado por el productor de Maximum RocknRoll, Mykel Board.

Tracy Deneault, una joven adolescente de Garland, Texas, con quien Allin comenzó a salir tras su divorcio con Sandra Farrow.

En este período, GG comenzó a ingerir laxantes antes de sus actuaciones, ya que la defecación en vivo se había convertido en un acto regular.

GG idolatraba a la leyenda de la música country Hank Williams, y lo veía como un espíritu similar.

Las grabaciones acústicas de GG, sobre todo el EP Troubled Troubadour, están muy influenciadas por Williams.

En este período Allin colaboró con Bulge para el álbum Freaks, Faggots, Drunks and Junkies, The AIDS Brigade (el vinilo llamado Expose Yourself To Kids) y The Holymen (You Give Love a Bad Name).

Al no querer un empleo fijo GG se mantenía vendiendo sus propios discos; pero también asegura haber cometido muchos crímenes, como allanamiento de morada o robo a mano armada en reiteradas ocasiones.

Fue durante este período en prisión cuando Allin comenzó a sentirse con nuevas energías en su vida y su "misión", como él la describía.

Durante los años 90, GG grabó su disco Murder Junkies en New Rose Records con la banda ANTiSEEN.

Se le encontró tendido en el apartamento la mañana del 29 de junio, pero en realidad había muerto la noche anterior mientras dormía.

Esa noche Allin inhaló grandes cantidades de heroína y cocaína, lo que terminó por acabar con su vida (GG no se inyectó nada esa noche, al contrario de lo que dice la leyenda urbana).

[15]​[16]​ Hubo dos velatorios para GG: uno a la manera tradicional irlandesa y el otro la despedida punk, según sus deseos.

Cuando el funeral terminó su hermano le puso unos auriculares en los oídos, conectados a un walkman con una copia de The Suicide Sessions.

Su tumba es vandalizada con frecuencia por fanes con orina, colillas de cigarro y alcohol, [17]​ actos que su madre Arleta reprobaba.