Nacido en el seno de una ilustre familia de Bolonia, en Emilia (Estados Pontificios), era hijo del notario Baldassare Grassi y de Orsina Bocchi; su tío Gasparo fue podestà en varias ciudades del norte de Italia; su otro tío Antonio era obispo de Tivoli, y su hermano Paride lo sería de Pesaro.

Durante su estancia en Roma mantuvo una concubina con la que tuvo cuatro hijos ilegítimos: Girolamo, que fue senador en Bolonia; Corrado, abad de varios monasterios benedictinos en Italia; Baldassare, obispo de Città di Castello y gobernador de Faenza; y Orsina, que casó con el conde de Vico Antonio Della Volta.

Doctorado en derecho civil y canónico en la Universidad de Bolonia, hacia el año 1488 marchó a Roma, donde comenzó su ascenso en la Curia bajo la protección de su tío Antonio, a quien sucedió en 1491 como auditor del Tribunal de la Rota, del que llegaría a ser decano.

Canónigo de la catedral de Bolonia desde 1495, hasta que tres años después renunció en favor de Francesco Alidosi, en 1496-97 formó parte del séquito del cardenal Bernardino López de Carvajal en su legación ante el emperador Maximiliano I del Sacro Imperio Romano Germánico.

Julio II le creó cardenal en el consistorio celebrado el 10 de marzo de 1511, recibiendo esa misma semana el capelo y el título de San Sisto, que en 1517 cambiaría por el de Santa Maria in Trastevere; en tal condición participó en el cónclave de 1513 en que fue elegido papa León X, en el de 1521 en que lo fue Adriano VI y en el de 1523 en que salió Clemente VII.