Su sobrenombre Gille probablemente se origina del gaélico Gilchrist (servidor de Cristo).

[1]​[2]​[3]​ Harald Gille habría nacido en Irlanda, cuando la isla contaba con una importante población nórdica.

Según las sagas, se sometió exitosamente a la prueba de fuego, tras lo cual fue reconocido por el rey como su hermano.

Al morir el monarca en 1130, Harald rompió su promesa y se proclamó rey junto a su sobrino, Magnus.

Harald Gille contrajo matrimonio con la noble sueca Ingrid Ragnvaldsdotter, nieta del rey Inge I de Suecia.