Ley de inteligencia artificial

2024 Reglamento de la Unión Europea sobre inteligencia artificial

La Ley de Inteligencia Artificial ( AI Act ) ^[a] es una regulación de la Unión Europea relativa a la inteligencia artificial (IA). Establece un marco regulatorio y legal común para la IA dentro de la Unión Europea (UE). ^[1] Entra en vigor el 1 de agosto de 2024, y las disposiciones entrarán en vigor gradualmente durante los siguientes 6 a 36 meses. ^[2]

Cubre todos los tipos de IA en una amplia gama de sectores, con excepciones para los sistemas de IA utilizados únicamente con fines militares, de seguridad nacional, de investigación y no profesionales. ^[3] Como norma de producto, no confiere derechos a las personas, sino que regula a los proveedores de sistemas de IA y a las entidades que utilizan la IA en un contexto profesional. ^[4]

La Ley clasifica las aplicaciones de IA no exentas según su riesgo de causar daño. Hay cuatro niveles (inaceptable, alto, limitado y mínimo) más una categoría adicional para la IA de uso general.

• Se prohíben las aplicaciones con riesgos inaceptables.
• Las aplicaciones de alto riesgo deben cumplir con obligaciones de seguridad, transparencia y calidad, y someterse a evaluaciones de conformidad .
• Las solicitudes de riesgo limitado sólo tienen obligaciones de transparencia.
• Las aplicaciones de riesgo mínimo no están reguladas.

Para la IA de uso general, se imponen requisitos de transparencia, con evaluaciones adicionales para modelos de alta capacidad. ^{[5] [6]}

La Ley también crea una Junta Europea de Inteligencia Artificial para promover la cooperación nacional y garantizar el cumplimiento de la regulación. ^{[7] Al igual que el} Reglamento General de Protección de Datos de la UE , la Ley puede aplicarse extraterritorialmente a proveedores de fuera de la UE si tienen usuarios dentro de la UE. ^[4]

Propuesto por la Comisión Europea el 21 de abril de 2021, ^[8] fue aprobado por el Parlamento Europeo el 13 de marzo de 2024, ^[9] y fue aprobado por unanimidad por el Consejo de la UE el 21 de mayo de 2024. ^[10] El proyecto de ley fue revisado para abordar la Aumento de la popularidad de los sistemas de inteligencia artificial generativa , como ChatGPT , cuyas capacidades de propósito general no se ajustaban al marco principal. ^[11] Se prevén regulaciones más restrictivas para potentes sistemas de IA generativa con impacto sistémico. ^[5]

Provisiones

Categorías de riesgo

Existen diferentes categorías de riesgo según el tipo de aplicación, con una categoría específica dedicada a la IA generativa de propósito general:

• Riesgo inaceptable: las aplicaciones de IA en esta categoría están prohibidas, salvo exenciones específicas. ^[12] Cuando no se aplica ninguna exención, esto incluye aplicaciones de IA que manipulan el comportamiento humano , aquellas que utilizan identificación biométrica remota en tiempo real (como el reconocimiento facial ) en espacios públicos y aquellas que se utilizan para la puntuación social (clasificar a los individuos según sus características personales). , estatus socioeconómico o comportamiento). ^[6]
• Alto riesgo: aplicaciones de IA que se espera que representen amenazas importantes para la salud, la seguridad o los derechos fundamentales de las personas. En particular, los sistemas de IA utilizados en salud, educación, contratación, gestión de infraestructuras críticas, aplicación de la ley o justicia. Están sujetos a obligaciones de calidad, transparencia, supervisión humana y seguridad y, en algunos casos, requieren una "evaluación de impacto sobre los derechos fundamentales" antes de su despliegue. ^[13] Deben evaluarse tanto antes de su comercialización como durante todo su ciclo de vida. La lista de aplicaciones de alto riesgo puede ampliarse con el tiempo, sin necesidad de modificar la propia Ley de IA. ^[4]
• IA de uso general: agregada en 2023, esta categoría incluye en particular modelos básicos como ChatGPT. Están sujetos a requisitos de transparencia. Los sistemas de IA de propósito general de alto impacto que podrían plantear riesgos sistémicos (en particular aquellos entrenados con una capacidad computacional superior a 10 ²⁵ FLOPS ) ^[14] también deben someterse a un proceso de evaluación exhaustivo. ^[6]
• Riesgo limitado: los sistemas de IA en esta categoría tienen obligaciones de transparencia, lo que garantiza que los usuarios estén informados de que están interactuando con un sistema de IA y les permite tomar decisiones informadas. Esta categoría incluye, por ejemplo, aplicaciones de IA que permiten generar o manipular imágenes, sonido o vídeos (como los deepfakes ). ^[6] En esta categoría, los modelos gratuitos que son de código abierto ( es decir , cuyos parámetros están disponibles públicamente) no están regulados, con algunas excepciones. ^{[14] [15]}
• Riesgo mínimo: esta categoría incluye, por ejemplo, sistemas de inteligencia artificial utilizados para videojuegos o filtros de spam . Se espera que la mayoría de las aplicaciones de IA entren en esta categoría. ^[16] Estos sistemas no están regulados y los Estados miembros no pueden imponer regulaciones adicionales debido a normas de máxima armonización . Se anulan las leyes nacionales existentes relativas al diseño o uso de dichos sistemas. Sin embargo, se sugiere un código de conducta voluntario. ^[17]

Exenciones

Los artículos 2.3 y 2.6 eximen de la Ley de IA a los sistemas de IA utilizados con fines militares o de seguridad nacional o para investigación y desarrollo puramente científicos. ^[12]

El artículo 5.2 prohíbe la videovigilancia algorítmica únicamente si se realiza en tiempo real. Las excepciones que permiten la videovigilancia algorítmica en tiempo real incluyen objetivos policiales que incluyen "una amenaza real y presente o real y previsible de ataque terrorista". ^[12]

El considerando 31 de la ley establece que su objetivo es prohibir "los sistemas de inteligencia artificial que proporcionen puntuación social a personas físicas por parte de actores públicos o privados", pero permite "prácticas de evaluación legales de personas físicas que se lleven a cabo para un propósito específico de conformidad con las normas de la Unión y ley Nacional." ^[18] La Quadrature du Net interpreta que esta exención permite sistemas de puntuación social específicos del sector, ^[12] como la puntuación de sospecha utilizada por la agencia francesa de pagos familiares Caisse d'allocations familiales . ^{[19] [12]}

Gobernancia

La Ley de IA establece diversos órganos nuevos en el artículo 64 y siguientes. Estos órganos tienen la tarea de implementar y hacer cumplir la ley. El enfoque combina la coordinación a nivel de la UE con la implementación nacional, involucrando tanto a las autoridades públicas como a la participación del sector privado.

Se crearán los siguientes nuevos órganos: ^{[20] [21]}

1. Oficina de IA: adscrita a la Comisión Europea, esta autoridad coordinará la implementación de la Ley de IA en todos los Estados miembros y supervisará el cumplimiento de los proveedores de IA de propósito general.
2. Junta Europea de Inteligencia Artificial: compuesta por un representante de cada Estado miembro, la Junta asesorará y ayudará a la Comisión y a los Estados miembros para facilitar la aplicación coherente y eficaz de la Ley de IA. Sus tareas incluyen recopilar e intercambiar experiencia técnica y regulatoria, brindar recomendaciones, opiniones escritas y otros consejos.
3. Foro Asesor: establecido para asesorar y proporcionar experiencia técnica a la Junta y a la Comisión, este foro representará una selección equilibrada de partes interesadas, incluida la industria, las empresas emergentes, las pequeñas y medianas empresas, la sociedad civil y el mundo académico, asegurando que un Un amplio espectro de opiniones está representado durante el proceso de implementación y solicitud.
4. Panel científico de expertos independientes: este panel brindará asesoramiento técnico y aportes a la Oficina de IA y a las autoridades nacionales, hará cumplir las reglas para los modelos de IA de uso general (en particular, mediante el lanzamiento de alertas calificadas de posibles riesgos para la Oficina de IA) y garantizará que las reglas y las implementaciones de la Ley de IA corresponden a los últimos descubrimientos científicos.

Si bien está previsto el establecimiento de nuevos organismos a nivel de la UE, los Estados miembros tendrán que designar "autoridades nacionales competentes". ^[22] Estas autoridades serán responsables de garantizar la aplicación y ejecución de la Ley de IA y de llevar a cabo la "vigilancia del mercado". ^[23] Verificarán que los sistemas de IA cumplan con las regulaciones, en particular verificando el correcto desempeño de las evaluaciones de conformidad y designando a terceros para llevar a cabo evaluaciones de conformidad externas.

Aplicación

La Ley regula la entrada al mercado interior de la UE utilizando el Nuevo Marco Legislativo . Contiene requisitos esenciales que todos los sistemas de IA deben cumplir para acceder al mercado de la UE. Estos requisitos esenciales se transmiten a las organizaciones europeas de normalización , que desarrollan normas técnicas que detallan más estos requisitos. ^[24]

La ley exige que los estados miembros establezcan sus propios organismos notificantes. Se realizan evaluaciones de conformidad para verificar si los sistemas de IA cumplen con los estándares establecidos en la Ley de IA. ^[25] Esta evaluación se puede realizar de dos maneras: mediante una autoevaluación, en la que el proveedor del sistema de IA verifica la conformidad, o mediante una evaluación de la conformidad de un tercero, en la que el organismo notificante realiza la evaluación. ^[26] Los organismos notificantes también tienen autoridad para realizar auditorías para garantizar evaluaciones de conformidad adecuadas. ^[27]

Han surgido críticas sobre el hecho de que muchos sistemas de IA de alto riesgo no requieren evaluaciones de conformidad de terceros. ^{[28] [29] [30]} Algunos comentaristas sostienen que las evaluaciones independientes de terceros son necesarias para que los sistemas de IA de alto riesgo garanticen la seguridad antes del despliegue. Los juristas han sugerido que los sistemas de inteligencia artificial capaces de generar deepfakes para desinformación política o crear imágenes íntimas no consensuales deberían clasificarse como de alto riesgo y estar sujetos a una regulación más estricta. ^[31]

Procedimiento legislativo

En febrero de 2020, la Comisión Europea publicó el "Libro Blanco sobre la Inteligencia Artificial: un enfoque europeo hacia la excelencia y la confianza". ^[32] En octubre de 2020, se llevaron a cabo debates entre líderes de la UE en el Consejo Europeo . El 21 de abril de 2021, la Comisión propuso oficialmente la Ley de IA. El 6 de diciembre de 2022, el Consejo Europeo adoptó la orientación general, permitiendo iniciar las negociaciones con el Parlamento Europeo . El 9 de diciembre de 2023, después de tres días de conversaciones "maratonianas", el Consejo y el Parlamento de la UE llegaron a un acuerdo. ^[33]

La ley fue aprobada en el Parlamento Europeo el 13 de marzo de 2024, por 523 votos a favor, 46 en contra y 49 abstenciones. ^[34] Fue aprobado por el Consejo de la UE el 21 de mayo de 2024. ^[10] Entrará en vigor el 1 de agosto de 2024, 20 días después de su publicación en el Diario Oficial el 12 de julio de 2024. ^{[9] [35]} Después de venir entre en vigor, habrá un retraso antes de que sea aplicable, lo que depende del tipo de aplicación. Este retraso es de 6 meses para prohibiciones de sistemas de IA de "riesgo inaceptable", 9 meses para códigos de prácticas, 12 meses para sistemas de IA de uso general, 36 meses para algunas obligaciones relacionadas con sistemas de IA de "alto riesgo" y 24 meses para todo lo demas. ^{[35] [34]}

Reacciones

Los expertos han argumentado que aunque la jurisdicción de la ley es europea, podría tener implicaciones de largo alcance para las empresas internacionales que planean expandirse a Europa. ^[36] Anu Bradford de Columbia ha argumentado que la ley proporciona un impulso significativo al movimiento mundial para regular las tecnologías de IA. ^[36]

Amnistía Internacional criticó la Ley de IA por no prohibir completamente el reconocimiento facial en tiempo real , lo que, según dijo, podría dañar "los derechos humanos, el espacio civil y el Estado de derecho" en la Unión Europea. También criticó la ausencia de una prohibición de exportar tecnologías de inteligencia artificial que puedan dañar los derechos humanos. ^[36]

Algunos organismos de control de la tecnología han argumentado que había importantes lagunas en la ley que permitirían a los grandes monopolios tecnológicos afianzar su ventaja en la IA o ejercer presión para debilitar las reglas. ^{[37] [38]} Algunas empresas emergentes acogieron con agrado la aclaración que proporciona la ley, mientras que otras argumentaron que la regulación adicional haría que las empresas emergentes europeas no fueran competitivas en comparación con las empresas estadounidenses y chinas. ^[38] La Quadrature du Net (LQDN) describió la Ley de IA como "hecha a medida para la industria tecnológica, las fuerzas policiales europeas y otras grandes burocracias ansiosas por automatizar el control social". LQDN describió el papel de la autorregulación y las exenciones en la ley para hacerla "en gran medida incapaz de obstaculizar el daño social, político y ambiental relacionado con la proliferación de la IA". ^[12]

Ver también

• Sesgo algorítmico
• Ética de la inteligencia artificial
• Regulación de algoritmos.
• Regulación de la inteligencia artificial en la Unión Europea
• Riesgo existencial de la inteligencia artificial general

Notas

1. Oficialmente: Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas sobre inteligencia artificial y se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, ( UE) N.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828

Referencias

1. "Propuesta de Reglamento por el que se establecen normas armonizadas sobre inteligencia artificial: configurar el futuro digital de Europa". estrategia-digital.ec.europa.eu . 21 de abril de 2021. Archivado desde el original el 4 de enero de 2023 . Consultado el 9 de enero de 2023 .
2. "Cronología de los acontecimientos". artificialintelligenceact.eu . Instituto Futuro de la Vida . Consultado el 13 de julio de 2024 .
3. "Ley de inteligencia artificial: el Consejo y el Parlamento llegan a un acuerdo sobre las primeras reglas para la IA en el mundo". Consejo de la UE . 9 de diciembre de 2023. Archivado desde el original el 10 de enero de 2024 . Consultado el 6 de enero de 2024 .
4. Mueller, Benjamin (4 de mayo de 2021). "La Ley de Inteligencia Artificial: una explicación rápida". Centro de Innovación de Datos . Archivado desde el original el 14 de octubre de 2022 . Consultado el 6 de enero de 2024 .
5. Espinoza, Javier (9 de diciembre de 2023). "La UE acuerda normas históricas sobre inteligencia artificial". Tiempos financieros . Archivado desde el original el 29 de diciembre de 2023 . Consultado el 6 de enero de 2024 .
6. "Ley de IA de la UE: primer reglamento sobre inteligencia artificial". Noticias del Parlamento Europeo . Archivado desde el original el 10 de enero de 2024 . Consultado el 6 de enero de 2024 .
7. MacCarthy, marca; Propp, Kenneth (4 de mayo de 2021). "Las máquinas aprenden que Bruselas escribe las reglas: el nuevo reglamento de IA de la UE". Brookings . Archivado desde el original el 27 de octubre de 2022 . Consultado el 7 de septiembre de 2021 .
8. "EUR-Lex – 52021PC0206 – ES – EUR-Lex". eur-lex.europa.eu . Archivado desde el original el 23 de agosto de 2021 . Consultado el 7 de septiembre de 2021 .
9. "La primera ley importante del mundo para regular la IA aprobada por legisladores europeos". CNBC . 14 de marzo de 2024. Archivado desde el original el 13 de marzo de 2024 . Consultado el 13 de marzo de 2024 .
10. Browne, Ryan (21 de mayo de 2024). "La primera gran ley del mundo sobre inteligencia artificial obtiene luz verde final de la UE". CNBC . Archivado desde el original el 21 de mayo de 2024 . Consultado el 22 de mayo de 2024 .
11. Coulter, Martin (7 de diciembre de 2023). "¿Qué es la Ley de IA de la UE y cuándo entrará en vigor su regulación?". Reuters . Archivado desde el original el 10 de diciembre de 2023 . Consultado el 11 de enero de 2024 .
12. Con la adopción de la Ley de IA, la fiebre del oro tecno-solucionista puede continuar, La Quadrature du Net , 22 de mayo de 2024, Wikidata  Q126064181, archivado desde el original el 23 de mayo de 2024
13. Mantelero, Alessandro (2022), Más allá de los datos. Derechos humanos, evaluación del impacto ético y social en la IA , Serie Derecho y tecnología de la información, vol. 36, La Haya: Springer-TMC Asser Press, doi : 10.1007/978-94-6265-531-7 , ISBN 978-94-6265-533-1
14. Bertuzzi, Luca (7 de diciembre de 2023). "Ley de IA: los responsables políticos de la UE fijan normas sobre los modelos de IA, pero se enfrentan en materia de aplicación de la ley". Euroactiv . Archivado desde el original el 8 de enero de 2024 . Consultado el 6 de enero de 2024 .
15. "Regulación de chatbots y deepfakes". mhc.es. ​Mason Hayes y Curran. Archivado desde el original el 9 de enero de 2024 . Consultado el 11 de enero de 2024 .
16. Liboreiro, Jorge (21 de abril de 2021). "'Mayor riesgo, normas más estrictas: las nuevas normas de inteligencia artificial de la UE ". Euronoticias . Archivado desde el original el 6 de enero de 2024 . Consultado el 6 de enero de 2024 .
17. Veale, Michael (2021). "Desmitificar el proyecto de ley de inteligencia artificial de la UE". Revista Internacional de Derecho Informático . 22 (4). arXiv : 2107.03721 . doi : 10.31235/osf.io/38p5f. S2CID  241559535.
18. "Resolución legislativa del Parlamento Europeo, de 13 de marzo de 2024, sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre la inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (COM(2021)0206 - C9-0146/2021 – 2021/0106(COD))". Archivado desde el original el 21 de mayo de 2024 . Consultado el 24 de mayo de 2024 .
19. Notation des allocataires: la CAF étend sa vigilancia à l'analyse des revenus en temps réel (en francés), La Quadrature du Net , 13 de marzo de 2024, Wikidata  Q126066451, archivado desde el original el 1 de abril de 2024
20. Bertuzzi, Luca (21 de noviembre de 2023). "Los legisladores de la UE discutirán la estructura de gobernanza revisada del libro de reglas de la IA". Euroactiv . Archivado desde el original el 22 de mayo de 2024 . Consultado el 18 de abril de 2024 .
21. Friedl, Pablo; Gasiola, Gustavo Gil (7 de febrero de 2024). "Examen de la Ley de Inteligencia Artificial de la UE". Verfassungsblog . Archivado desde el original el 22 de mayo de 2024 . Consultado el 16 de abril de 2024 .
22. "Ley de Inteligencia Artificial". Parlamento Europeo . 13 de marzo de 2024. Archivado desde el original el 18 de abril de 2024 . Consultado el 18 de abril de 2024 .Artículo 3 – definiciones. Extracto: "'autoridad nacional competente' significa la autoridad nacional de supervisión, la autoridad notificante y la autoridad de vigilancia del mercado;"
23. "Inteligencia artificial: preguntas y respuestas". Comisión Europea . 12 de diciembre de 2023. Archivado desde el original el 6 de abril de 2024 . Consultado el 17 de abril de 2024 .
24. Tártaro, Alessio (2023). "Regular por estándares: avances actuales y principales desafíos en la estandarización de la Inteligencia Artificial en apoyo a la Ley de IA". Revista europea de tecnologías y derecho de privacidad . 1 (1). Archivado desde el original el 3 de diciembre de 2023 . Consultado el 10 de diciembre de 2023 .
25. "EUR-Lex – 52021SC0084 – ES – EUR-Lex". eur-lex.europa.eu . Archivado desde el original el 17 de abril de 2023 . Consultado el 17 de abril de 2023 .
26. Veale, Michael; Borgesius, Frederik Zuiderveen (1 de agosto de 2021). "Desmitificar el proyecto de ley de inteligencia artificial de la UE: analizar los elementos buenos, malos y poco claros del enfoque propuesto". Revista Internacional de Derecho Informático . 22 (4): 97-112. arXiv : 2107.03721 . doi :10.9785/cri-2021-220402. ISSN  2194-4164. S2CID  235765823.
27. Casarosa, Federica (1 de junio de 2022). "Certificación de ciberseguridad de la Inteligencia Artificial: una oportunidad perdida para coordinar entre la Ley de Inteligencia Artificial y la Ley de Ciberseguridad". Revisión de la legislación internacional sobre ciberseguridad . 3 (1): 115-130. doi :10.1365/s43439-021-00043-6. ISSN  2662-9739. S2CID  258697805.
28. Smuha, Nathalie A.; Ahmed-Rengers, Emma; Escucha, Adán; Li, Wenlong; MacLaren, James; Piselli, Ricardo; Yeung, Karen (5 de agosto de 2021). "Cómo la UE puede lograr una IA legalmente confiable: una respuesta a la propuesta de la Comisión Europea de una ley de inteligencia artificial". doi :10.2139/ssrn.3899991. S2CID  239717302. SSRN  3899991. Archivado desde el original el 26 de febrero de 2024 . Consultado el 14 de marzo de 2024 .
29. Ebers, Martín; Hoch, Verónica RS; Rosenkranz, Frank; Ruschemeier, Hannah; Steinrötter, Björn (diciembre de 2021). "La propuesta de la Comisión Europea para una ley de inteligencia artificial: una evaluación crítica realizada por miembros de la Sociedad de Derecho de Robótica e IA (RAILS)". J.​ 4 (4): 589–603. doi : 10.3390/j4040043 . ISSN  2571-8800.
30. Almada, Marco; Petit, Nicolas (27 de octubre de 2023). "La Ley de IA de la UE: entre la seguridad de los productos y los derechos fundamentales". Documento de investigación del Centro Robert Schuman de Estudios Avanzados No. 2023/59 . doi :10.2139/ssrn.4308072. S2CID  255388310. SSRN  4308072. Archivado desde el original el 17 de abril de 2023 . Consultado el 14 de marzo de 2024 .
31. Romero-Moreno, Felipe (29 de marzo de 2024). "IA generativa y deepfakes: un enfoque de derechos humanos para abordar el contenido dañino". Revista Internacional de Derecho, Informática y Tecnología . 39 (2): 1–30. doi : 10.1080/13600869.2024.2324540 . hdl : 2299/20431 . ISSN  1360-0869.
32. "Libro Blanco sobre la inteligencia artificial: un enfoque europeo hacia la excelencia y la confianza". Comisión Europea . 19 de febrero de 2020. Archivado desde el original el 5 de enero de 2024 . Consultado el 6 de enero de 2024 .
33. "Cronología: inteligencia artificial". Consejo europeo . 9 de diciembre de 2023. Archivado desde el original el 6 de enero de 2024 . Consultado el 6 de enero de 2024 .
34. "Ley de Inteligencia Artificial: los eurodiputados adoptan una ley histórica". Parlamento Europeo . 13 de marzo de 2024. Archivado desde el original el 15 de marzo de 2024 . Consultado el 14 de marzo de 2024 .
35. David, Emilia (14 de diciembre de 2023). "Se aprobó la Ley de IA de la UE; ahora viene la espera". El borde . Archivado desde el original el 10 de enero de 2024 . Consultado el 6 de enero de 2024 .
36. "Europa acordó normas de IA líderes en el mundo. ¿Cómo funcionan y afectarán a personas de todo el mundo?". Noticias AP . 11 de diciembre de 2023 . Consultado el 31 de mayo de 2024 .
37. "El parlamento de la UE da luz verde a regulaciones históricas sobre inteligencia artificial". Al Jazeera . Consultado el 31 de mayo de 2024 .
38. "La UE aprobó la primera ley de inteligencia artificial. Los expertos en tecnología dicen que es 'agridulce'". euronoticias . 16 de marzo de 2024 . Consultado el 31 de mayo de 2024 .