También existía un Grand-Pont en el siglo IX bajo el reinado de Carlos el Calvo que permitía salvar el gran brazo del Sena (este último será reemplazado por el Pont au Change).
El actual Petit-Pont fue construido en 1853, pero una estructura similar ha cruzado el Sena en ese emplazamiento desde la antigüedad.
Hasta el encauzamiento del Sena en el siglo XVIII, el puente fue víctima a menudo de inundaciones.
Es en la Edad Media, en 1185, que se construye la primera réplica, después destruida en 1196.
Pero es totalmente destruido por las llamas en 1718, reemplazado un año más tarde por otra réplica siempre de madera.