Siendo Gismonti muy joven, se mudó con su familia a Nova Friburgo, 72 km al sur, donde vivió su infancia y adolescencia.

Al mismo tiempo se interesó por la música popular, gracias a su madre quien le pedía que tocara serenatas italianas en guitarra.

Sin embargo rechazó la beca, ya que le interesaba profundizar en el estudio de la música popular.

Esta obra, con su extraordinaria orquestación, provocó gran entusiasmo y fue grabada por dieciocho distintos artistas internacionales.

Su encuentro con estos dos grandes íconos le sirvió para encontrar su propio lenguaje musical, mezclando la vanguardia europea, con la música brasileña, tanto popular como docta.

Allí, cantó sus propias canciones, realizando una asociación con el compositor de Bossa Nova, Paulo Sérgio Valle.

Al volver a Brasil en 1971, se radicó en Teresópolis, otra pequeña ciudad cerca de Río.

Sin embargo la dictadura militar brasileña impuso precios excesivamente altos para salir del país, por lo que finalmente viajó a grabar solo.

Una vez en Noruega se reunió con Naná Vasconcelos a quien le explicó el concepto del disco.

Su primer álbum con ECM titulado Dança das cabeças (1976), recibió variados reconocimientos internacionales, fue nominado a álbum del año por Stereo Review y recibió el premio Großer Deutscher Schallplattenpreis, a la vez que recibió contradictorias categorizaciones que reflejan la riqueza cultural de Brasil y su incomprensión: en el Reino Unido fue calificada como música pop; en los Estados Unidos, como folclore; y en Alemania, como música clásica.

Gismonti dedicó este álbum a los indios del xingú, con quienes había vivido en la selva amazónica.

El disco vendió más de 100.000 sólo en Estados Unidos, algo inesperado para no ser un género musical masivo.

Su siguiente álbum fue una grabación en trío titulada Mágico (1979), con el bajista Charlie Haden y nuevamente junto al saxofonista Jan Garbarek.

Durante dos años experimentó con diferentes afinaciones y timbres (utilizando flautas indígenas, kalimbas, sho, voces, campanas, etc. Es extremadamente experto tanto en el piano como en la guitarra.