Fue construido entre 1455 y 1467 por encargo del cardenal veneciano Pietro Barbo, que posteriormente se convirtió en papa con el nombre de Paulo II.
La paternidad del proyecto del palacio, que constituye uno de los primeros y más importantes edificios civiles de la Roma renacentista, es incierta; para algunos se debe atribuir a Leon Battista Alberti (pese a que fue muy crítico con las obras romanas de la época), para otros a Giuliano da Maiano (que seguramente esculpió el portal principal del palacio), y para otros a Bernardo Rossellino.
En la esquina hacia la plaza hacía de bisagra entre las dos fachadas la alta Torre della Biscia.
En el patio del Palazzetto se encuentran elementos tomados de la arquitectura romana, combinados sin embargo sin rigor filológico, dando mayor importancia a la funcionalidad que a la adhesión rígida al modelo.
Sin embargo, la anchura de los arcos está reducida, para no hacerlos parecer demasiado imponentes respecto a los espacios que rodean.