Inicialmente, los dos componentes del grupo empezaron a cantar por separado hasta unirse formalmente en 2006.En marzo de ese mismo año, el dúo grabó su primer EP titulado "Chocolates and Cigarettes", cuya canción "Paper Aeroplane" empieza a ser emitida por las radios australianas.También realizaron una gira por el Reino Unido como teloneros de artistas como Martha Wainwright.Animados por el éxito internacional de su canción "Big Jet Plane", empiezan a trabajar en varias compilaciones, entre ellas "Memories of an Old Friend" y "For You".Se puso en contacto Julia Stone, pero ella contestó cada uno había decidido ir por su propio camino.