Perteneciente a una familia modesta, el nuevo Papa no contó con el apoyo de la nobleza romana, parte de cuyos miembros, emparentados con el anterior pontífice, organizaron una emboscada en la cual, durante una procesión celebrada el 25 de abril de 799, León resultó herido, siendo formalmente depuesto y enviado al monasterio de San Erasmo, de donde consiguió escapar y reunirse con Carlomagno en Paderborn donde le solicitó su ayuda.
El rey de los francos, tras recibir una embajada romana que con falso juramento acusó a León de adulterio, prestó su apoyo al pontífice no reconociendo su deposición y escoltándolo hasta Roma.
Con este acto, que inicia una tradición que continuará hasta el año 1452 con la coronación de Federico III, coexistirán un emperador de Oriente y un emperador de Occidente, y supondrá para Roma una afirmación de su primacía, pero también un reconocimiento de la existencia de un poder temporal, distinto al del pontífice, que en las siguientes centurias provocará importantes conflictos con los emperadores alemanes.
En un concilio celebrado en Aquisgrán, en 809, prohibió el uso de la cláusula Filioque y ordenó que el Credo niceno, sin dicha cláusula, fuera grabado sobre dos tablas de plata y expuesto en San Pedro.
Fue canonizado por Clemente X en 1673, celebrándose su fiesta el 12 de junio.