La regulación de la inteligencia artificial es el desarrollo de políticas y leyes del sector público para promover y regular la inteligencia artificial (IA). Es parte de la regulación más amplia de los algoritmos . [1] [2] El panorama regulatorio y político para la IA es un tema emergente en jurisdicciones de todo el mundo, incluso para organizaciones internacionales sin poder de aplicación directa como el IEEE o la OCDE . [3]
Desde 2016, se han publicado numerosas directrices éticas de la IA para mantener el control social sobre la tecnología. [4] La regulación se considera necesaria tanto para fomentar la innovación en IA como para gestionar los riesgos asociados.
Además, las organizaciones que implementan IA tienen un papel central que desempeñar en la creación e implementación de IA confiable , adhiriéndose a los principios establecidos y asumiendo la responsabilidad de mitigar los riesgos. [5]
La regulación de la IA a través de mecanismos como juntas de revisión también puede verse como un medio social para abordar el problema del control de la IA . [6] [7]
Según el Índice de IA de 2023 de la Universidad de Stanford , el número anual de proyectos de ley que mencionan la "inteligencia artificial" aprobados en 127 países encuestados saltó de uno en 2016 a 37 en 2022. [8] [9]
En 2017, Elon Musk pidió que se regulara el desarrollo de la IA. [10] Según NPR , el CEO de Tesla "claramente no estaba entusiasmado" de abogar por un escrutinio gubernamental que podría afectar su propia industria, pero creía que los riesgos de pasar completamente sin supervisión son demasiado altos: "Normalmente, la forma en que se establecen las regulaciones Es cuando suceden un montón de cosas malas, hay una protesta pública y, después de muchos años, se crea una agencia reguladora para regular esa industria. Eso, en el pasado, ha sido malo, pero no es algo que represente un riesgo fundamental. a la existencia de la civilización." [10] En respuesta, algunos políticos expresaron escepticismo sobre la conveniencia de regular una tecnología que aún está en desarrollo. [11] En respuesta tanto a Musk como a las propuestas de febrero de 2017 de los legisladores de la Unión Europea para regular la IA y la robótica, el director ejecutivo de Intel, Brian Krzanich, ha argumentado que la IA está en su infancia y que es demasiado pronto para regular la tecnología. [12] Muchas empresas de tecnología se oponen a la dura regulación de la IA y "Si bien algunas de las empresas han dicho que acogen con agrado las normas en torno a la IA, también se han opuesto a regulaciones estrictas similares a las que se están creando en Europa" [13] En lugar de tratar de regular En cuanto a la tecnología en sí, algunos académicos sugirieron desarrollar normas comunes que incluyan requisitos para las pruebas y la transparencia de los algoritmos, posiblemente en combinación con alguna forma de garantía. [14]
En una encuesta de Ipsos de 2022 , las actitudes hacia la IA variaron mucho según el país; El 78% de los ciudadanos chinos, pero sólo el 35% de los estadounidenses, coincidieron en que "los productos y servicios que utilizan IA tienen más beneficios que inconvenientes". [8] Una encuesta de Reuters /Ipsos de 2023 encontró que el 61% de los estadounidenses está de acuerdo, y el 22% no está de acuerdo, en que la IA plantea riesgos para la humanidad. [15] En una encuesta de Fox News de 2023 , el 35% de los estadounidenses pensó que era "muy importante" y un 41% adicional pensó que era "algo importante" que el gobierno federal regulara la IA, frente a un 13% que respondió "no muy importante". y el 8% respondió "nada importante". [16] [17]
La regulación de las inteligencias artificiales es el desarrollo de políticas y leyes del sector público para promover y regular la IA. [18] Hoy en día se considera generalmente que la regulación es necesaria tanto para fomentar la IA como para gestionar los riesgos asociados. [19] [20] [21] Las consideraciones de política y administración pública generalmente se centran en las implicaciones técnicas y económicas y en sistemas de IA confiables y centrados en el ser humano, [22] aunque también se considera la regulación de las superinteligencias artificiales . [23] El enfoque básico de la regulación se centra en los riesgos y sesgos de los algoritmos de aprendizaje automático , a nivel de los datos de entrada, las pruebas de algoritmos y el modelo de decisión. También se centra en la explicabilidad de los resultados. [20]
Ha habido propuestas de leyes duras y blandas para regular la IA. [24] Algunos juristas han señalado que los enfoques de legislación estricta para la regulación de la IA presentan desafíos sustanciales. [25] [26] Entre los desafíos, la tecnología de IA está evolucionando rápidamente, lo que genera un "problema de ritmo" donde las leyes y regulaciones tradicionales a menudo no pueden mantenerse al día con las aplicaciones emergentes y sus riesgos y beneficios asociados. [25] [26] De manera similar, la diversidad de aplicaciones de IA desafía a las agencias reguladoras existentes, que a menudo tienen un alcance jurisdiccional limitado. [25] Como alternativa, algunos juristas sostienen que los enfoques de derecho indicativo para la regulación de la IA son prometedores porque las leyes indicativas pueden adaptarse de manera más flexible para satisfacer las necesidades de la tecnología de IA emergente y en evolución y de las aplicaciones incipientes. [25] [26] Sin embargo, los enfoques de derecho indicativo a menudo carecen de un potencial sustancial de aplicación. [25] [27]
Cason Schmit, Megan Doerr y Jennifer Wagner propusieron la creación de un regulador cuasi gubernamental aprovechando los derechos de propiedad intelectual (es decir, licencias copyleft ) en ciertos objetos de IA (es decir, modelos de IA y conjuntos de datos de entrenamiento) y delegando derechos de aplicación a una entidad de aplicación designada. entidad. [28] Sostienen que se puede otorgar licencia a la IA bajo términos que requieran el cumplimiento de prácticas éticas y códigos de conducta específicos. (por ejemplo, principios de derecho indicativo). [28]
Destacadas organizaciones juveniles centradas en la IA, a saber, Encode Justice, también han emitido agendas integrales que exigen regulaciones de IA y asociaciones público-privadas más estrictas . [29] [30]
La regulación de la IA podría derivar de principios básicos. Una meta-revisión del Centro Berkman Klein para Internet y Sociedad de 2020 de conjuntos de principios existentes, como los Principios de Asilomar y los Principios de Beijing, identificó ocho de esos principios básicos: privacidad, responsabilidad, seguridad, transparencia y explicabilidad, equidad y no discriminación, control humano de la tecnología, responsabilidad profesional y respeto por los valores humanos. [31] Las leyes y regulaciones de IA se han dividido en tres temas principales, a saber, la gobernanza de los sistemas de inteligencia autónomos, la responsabilidad y la rendición de cuentas por los sistemas, y las cuestiones de privacidad y seguridad. [19] Un enfoque de administración pública ve una relación entre la ley y la regulación de la IA, la ética de la IA y la "sociedad de la IA", definida como sustitución y transformación de la fuerza laboral, aceptación social y confianza en la IA, y la transformación de la interacción entre humanos y máquinas. [32] El desarrollo de estrategias del sector público para la gestión y regulación de la IA se considera necesario a nivel local, nacional [33] e internacional [34] y en una variedad de campos, desde la gestión de servicios públicos [35] y la rendición de cuentas [ 36] a la aplicación de la ley, [34] [37] atención médica (especialmente el concepto de Garantía Humana), [38] [39] [40] [41] [42] el sector financiero, [33] robótica, [43] [44] vehículos autónomos, [43] el ejército [45] y la seguridad nacional, [46] y el derecho internacional. [47] [48]
Henry Kissinger , Eric Schmidt y Daniel Huttenlocher publicaron una declaración conjunta en noviembre de 2021 titulada "Ser humano en la era de la IA", en la que pedían una comisión gubernamental para regular la IA. [49]
La regulación de la IA puede verse como un medio social positivo para gestionar el problema de control de la IA (la necesidad de garantizar una IA beneficiosa a largo plazo), mientras que otras respuestas sociales, como no hacer nada o prohibir, se consideran poco prácticas, y enfoques como mejorar las capacidades humanas. a través de técnicas de transhumanismo , como las interfaces cerebro-computadora, que se consideran potencialmente complementarias. [7] [50] La regulación de la investigación sobre inteligencia artificial general (AGI) se centra en el papel de los comités de revisión, desde universidades o corporaciones hasta niveles internacionales, y en fomentar la investigación sobre la seguridad de la IA , [50] junto con la posibilidad de diferencias intelectuales. avances (priorizar estrategias de protección sobre estrategias riesgosas en el desarrollo de la IA) o llevar a cabo una vigilancia masiva internacional para realizar el control de armas AGI. [7] Por ejemplo, la 'AGI Nanny' es una estrategia propuesta, potencialmente bajo el control de la humanidad, para prevenir la creación de una superinteligencia peligrosa , así como para abordar otras amenazas importantes al bienestar humano, como la subversión de la sistema financiero global, hasta que se pueda crear de manera segura una verdadera superinteligencia. Implica la creación de un sistema AGI más inteligente que el humano, pero no superinteligente, conectado a una gran red de vigilancia, con el objetivo de monitorear a la humanidad y protegerla del peligro. [7] La regulación de los AGI conscientes y éticamente conscientes se centra en cómo integrarlos en la sociedad humana existente y puede dividirse en consideraciones de su situación jurídica y de sus derechos morales. [7] La regulación de la IA se ha considerado restrictiva, con el riesgo de impedir el desarrollo de la AGI. [43]
El desarrollo de una junta de gobernanza global para regular el desarrollo de la IA se sugirió al menos ya en 2017. [52] En diciembre de 2018, Canadá y Francia anunciaron planes para un Panel Internacional sobre Inteligencia Artificial respaldado por el G7, inspirado en el Panel Internacional sobre el Clima. Change , para estudiar los efectos globales de la IA en las personas y las economías y dirigir el desarrollo de la IA. [53] En 2019, el Panel pasó a llamarse Alianza Global sobre IA. [54] [55]
La Asociación Global sobre Inteligencia Artificial (GPAI) se lanzó en junio de 2020, planteando la necesidad de que la IA se desarrolle de acuerdo con los derechos humanos y los valores democráticos, para garantizar la confianza del público en la tecnología, como se describe en los Principios de la OCDE sobre Inteligencia Artificial. Inteligencia (2019). [56] Los 15 miembros fundadores de la Asociación Global sobre Inteligencia Artificial son Australia, Canadá, la Unión Europea, Francia, Alemania, India, Italia, Japón, la República de Corea, México, Nueva Zelanda, Singapur, Eslovenia y los Estados Unidos. y el Reino Unido. En 2023, la GPAI tendrá 29 miembros. [57] La Secretaría de la GPAI está alojada en la OCDE en París, Francia. El mandato de la GPAI cubre cuatro temas, dos de los cuales cuentan con el apoyo del Centro Internacional de Experiencia en Montreal para el Avance de la Inteligencia Artificial, a saber, la IA responsable y la gobernanza de datos. Un centro de excelencia correspondiente en París apoyará los otros dos temas sobre el futuro del trabajo y sobre la innovación y la comercialización. GPAI también investigó cómo se puede aprovechar la IA para responder a la pandemia de COVID-19. [56]
Los Principios de IA de la OCDE [58] se adoptaron en mayo de 2019 y los Principios de IA del G20 en junio de 2019. [55] [59] [60] En septiembre de 2019, el Foro Económico Mundial emitió diez 'Directrices de IA para las adquisiciones gubernamentales'. [61] En febrero de 2020, la Unión Europea publicó su borrador de documento de estrategia para promover y regular la IA. [34]
En las Naciones Unidas (ONU), varias entidades han comenzado a promover y discutir aspectos de la regulación y la política de IA, incluido el Centro UNICRI de IA y Robótica . [46] En asociación con INTERPOL, el Centro UNICRI publicó el informe AI and Robotics for Law Enforcement en abril de 2019 [62] y el informe de seguimiento Hacia una innovación responsable en IA en mayo de 2020. [37] En la 40.ª sesión científica de la UNESCO en En noviembre de 2019, la organización inició un proceso de dos años para lograr un "instrumento de establecimiento de estándares globales sobre la ética de la inteligencia artificial". Para lograr este objetivo, se celebraron foros y conferencias de la UNESCO sobre IA para recabar las opiniones de las partes interesadas. En septiembre de 2020 se publicó un borrador de texto de una Recomendación sobre la Ética de la IA del Grupo Ad Hoc de Expertos de la UNESCO que incluía un llamado a llenar los vacíos legislativos. [63] La UNESCO presentó el instrumento internacional sobre la ética de la IA para su adopción en su Conferencia General en noviembre de 2021; [56] esto fue adoptado posteriormente. [64] Si bien la ONU está avanzando en la gestión global de la IA, su capacidad institucional y legal para gestionar el riesgo existencial de la AGI es más limitada. [sesenta y cinco]
AI for Good, una iniciativa de la Unión Internacional de Telecomunicaciones (UIT) en asociación con 40 agencias hermanas de las Naciones Unidas, es una plataforma global que tiene como objetivo identificar aplicaciones prácticas de la IA para promover los Objetivos de Desarrollo Sostenible de las Naciones Unidas y escalar esas soluciones para lograr un impacto global. Es una plataforma de las Naciones Unidas global e inclusiva orientada a la acción que fomenta el desarrollo de la IA para impactar positivamente la salud, el clima, el género, la prosperidad inclusiva, la infraestructura sostenible y otras prioridades de desarrollo global. [66]
Investigaciones recientes han indicado que los países también comenzarán a utilizar la inteligencia artificial como herramienta para la ciberdefensa nacional. La IA es un factor nuevo en la industria de las armas cibernéticas, ya que puede utilizarse con fines de defensa. Por lo tanto, los académicos instan a que las naciones establezcan regulaciones para el uso de la IA, de manera similar a como existen regulaciones para otras industrias militares. [67]
El panorama normativo y político para la IA es una cuestión emergente en las jurisdicciones regionales y nacionales de todo el mundo, por ejemplo en la Unión Europea [69] y Rusia. [70] Desde principios de 2016, muchas autoridades nacionales, regionales e internacionales han comenzado a adoptar estrategias, planes de acción y documentos de políticas sobre IA. [71] [72] Estos documentos cubren una amplia gama de temas como la regulación y la gobernanza, así como la estrategia industrial, la investigación, el talento y la infraestructura. [22] [73]
Los diferentes países han abordado el problema de diferentes maneras. Con respecto a las tres economías más grandes, se ha dicho que "Estados Unidos está siguiendo un enfoque impulsado por el mercado, China está impulsando un enfoque impulsado por el Estado y la UE está siguiendo un enfoque impulsado por los derechos". [74]
En octubre de 2023, la Sociedad Australiana de Informática , el Consejo Empresarial de Australia , la Cámara de Comercio e Industria de Australia , el Grupo Ai (también conocido como Grupo Industrial Australiano) , el Consejo de Organizaciones de Pequeñas Empresas de Australia y el Consejo Tecnológico de Australia publicaron conjuntamente una carta abierta pidiendo una enfoque nacional de la estrategia de IA. [75] La carta respalda que el gobierno federal establezca un grupo de trabajo sobre IA integrado por todo el gobierno. [75]
El 30 de septiembre de 2021, la Cámara de Diputados de Brasil aprobó el Marco Legal Brasileño para la Inteligencia Artificial, Marco Legal da Inteligência Artificial, en esfuerzos regulatorios para el desarrollo y uso de tecnologías de IA y para estimular aún más la investigación y la innovación en soluciones de IA orientadas a la ética. , cultura, justicia, equidad y rendición de cuentas. Este proyecto de ley de 10 artículos describe objetivos que incluyen misiones para contribuir a la elaboración de principios éticos, promover inversiones sostenidas en investigación y eliminar barreras a la innovación. En concreto, en su artículo 4, el proyecto de ley hace hincapié en evitar soluciones discriminatorias de IA, la pluralidad y el respeto de los derechos humanos. Además, esta ley enfatiza la importancia del principio de igualdad en los algoritmos deliberados de toma de decisiones, especialmente para sociedades altamente diversas y multiétnicas como la de Brasil.
Cuando el proyecto de ley se hizo público por primera vez, enfrentó críticas sustanciales, alarmando al gobierno por sus disposiciones críticas. El problema subyacente es que este proyecto de ley no aborda de manera exhaustiva y cuidadosa los principios de rendición de cuentas, transparencia e inclusión. El artículo VI establece la responsabilidad subjetiva, lo que significa que cualquier individuo que resulte dañado por un sistema de IA y desee recibir una compensación debe especificar la parte interesada y demostrar que hubo un error en el ciclo de vida de la máquina. Los académicos enfatizan que está fuera de orden legal asignar a una persona responsable de probar errores algorítmicos dado el alto grado de autonomía, imprevisibilidad y complejidad de los sistemas de IA. Esto también llamó la atención sobre los problemas que ocurren actualmente con los sistemas de reconocimiento facial en Brasil, lo que lleva a arrestos injustos por parte de la policía, lo que implicaría que cuando se apruebe este proyecto de ley, los individuos tendrían que probar y justificar estos errores de las máquinas.
La principal controversia de este proyecto de ley se dirigió a tres principios propuestos. En primer lugar, el principio de no discriminación sugiere que la IA debe desarrollarse y utilizarse de una manera que simplemente mitigue la posibilidad de prácticas abusivas y discriminatorias. En segundo lugar, la búsqueda del principio de neutralidad enumera recomendaciones para que las partes interesadas mitiguen los sesgos; sin embargo, sin obligación de lograr este objetivo. Por último, el principio de transparencia establece que la transparencia de un sistema sólo es necesaria cuando existe un alto riesgo de vulneración de derechos fundamentales. Como se observa fácilmente, el Marco Legal brasileño para la Inteligencia Artificial carece de cláusulas vinculantes y obligatorias y está más bien lleno de directrices laxas. De hecho, los expertos enfatizan que este proyecto de ley puede incluso hacer que la rendición de cuentas por los sesgos discriminatorios de la IA sea aún más difícil de lograr. En comparación con la propuesta de la UE de regulaciones extensas basadas en el riesgo, el proyecto de ley brasileño tiene 10 artículos que proponen recomendaciones vagas y genéricas.
En comparación con el enfoque de participación de múltiples partes interesadas adoptado anteriormente en la década de 2000 cuando se redactó la Declaración de Derechos de Internet de Brasil, Marco Civil da Internet, se considera que el proyecto de ley brasileño carece significativamente de perspectiva. El multistakeholderismo, más comúnmente conocido como Gobernanza Multistakeholder, se define como la práctica de hacer que múltiples actores participen en el diálogo, la toma de decisiones y la implementación de respuestas a problemas percibidos conjuntamente. En el contexto de la IA regulatoria, esta perspectiva de múltiples partes interesadas captura las compensaciones y las diferentes perspectivas de diferentes partes interesadas con intereses específicos, lo que ayuda a mantener la transparencia y una eficacia más amplia. Por el contrario, la propuesta legislativa para regular la IA no siguió un enfoque similar de múltiples partes interesadas.
Los pasos futuros pueden incluir ampliar la perspectiva de múltiples partes interesadas. Ha habido una creciente preocupación por la inaplicabilidad del marco del proyecto de ley, que destaca que la solución única puede no ser adecuada para la regulación de la IA y exige disposiciones subjetivas y adaptativas.
La Estrategia Pancanadiense de Inteligencia Artificial (2017) cuenta con el apoyo de una financiación federal de 125 millones de dólares canadienses con el objetivo de aumentar el número de investigadores destacados de IA y graduados capacitados en Canadá, establecer nodos de excelencia científica en los tres principales centros de IA y desarrollar ' liderazgo de pensamiento global' sobre las implicaciones económicas, éticas, políticas y legales de los avances de la IA y el apoyo a una comunidad de investigación nacional que trabaje en IA. [56] El Programa de Cátedras CIFAR de IA de Canadá es la piedra angular de la estrategia. Se beneficia de una financiación de 86,5 millones de dólares canadienses durante cinco años para atraer y retener investigadores de IA de renombre mundial. [56] El gobierno federal nombró un Consejo Asesor sobre IA en mayo de 2019 con el objetivo de examinar cómo aprovechar las fortalezas de Canadá para garantizar que los avances en IA reflejen los valores canadienses, como los derechos humanos, la transparencia y la apertura. El Consejo Asesor sobre IA ha establecido un grupo de trabajo para extraer valor comercial de la IA y el análisis de datos de propiedad canadiense. [56] En 2020, el gobierno federal y el gobierno de Quebec anunciaron la apertura del Centro Internacional de Experiencia en Montreal para el Avance de la Inteligencia Artificial, que promoverá la causa del desarrollo responsable de la IA. [56] En junio de 2022, el gobierno de Canadá inició una segunda fase de la Estrategia Pancanadiense de Inteligencia Artificial. [76] En noviembre de 2022, Canadá introdujo la Ley de Implementación de la Carta Digital (Proyecto de Ley C-27), que propone tres leyes que se han descrito como un paquete holístico de legislación para la confianza y la privacidad: la Ley de Protección de la Privacidad del Consumidor, la Ley de Información Personal y la Ley del Tribunal de Protección de Datos, y la Ley de Datos e Inteligencia Artificial (AIDA). [77] [78]
En Marruecos, una coalición de partidos políticos en el Parlamento ha presentado una nueva propuesta legislativa para establecer la Agencia Nacional de Inteligencia Artificial (IA). Esta agencia tiene como objetivo regular las tecnologías de IA, mejorar la colaboración con entidades internacionales en el campo y aumentar la conciencia pública sobre las posibilidades y los riesgos asociados con la IA. [79]
La regulación de la IA en China se rige principalmente por el "Plan de desarrollo de la inteligencia artificial de próxima generación" del Consejo de Estado de la República Popular China del 8 de julio de 2017 (Documento del Consejo de Estado No. 35), en el que el Comité Central de la El Partido Comunista Chino y el Consejo de Estado de la República Popular China instaron a los órganos de gobierno de China a promover el desarrollo de la IA hasta 2030. La regulación de las cuestiones de apoyo ético y legal al desarrollo de la IA se está acelerando, y la política garantiza el control estatal de los chinos. empresas y datos valiosos, incluido el almacenamiento de datos sobre usuarios chinos dentro del país y el uso obligatorio de los estándares nacionales de inteligencia artificial de la República Popular China, incluidos big data, computación en la nube y software industrial. [80] [81] [82] En 2021, China publicó directrices éticas para el uso de la IA en China que establecen que los investigadores deben garantizar que la IA respete los valores humanos compartidos, esté siempre bajo control humano y no ponga en peligro la seguridad pública. [83] En 2023, China introdujo Medidas Provisionales para la Gestión de Servicios de IA Generativa . [84]
El Consejo de Europa (CoE) es una organización internacional que promueve los derechos humanos, la democracia y el Estado de derecho. Está compuesto por 47 estados miembros, incluidos los 29 signatarios de la Declaración de Cooperación sobre Inteligencia Artificial de 2018 de la Unión Europea. El CoE ha creado un espacio jurídico común en el que sus miembros tienen la obligación legal de garantizar los derechos establecidos en el Convenio Europeo de Derechos Humanos . Específicamente en relación con la IA, "el objetivo del Consejo de Europa es identificar áreas de intersección entre la IA y nuestros estándares sobre derechos humanos, democracia y estado de derecho, y desarrollar estándares relevantes o soluciones de desarrollo de capacidades". La gran cantidad de documentos relevantes identificados por el CoE incluyen directrices, estatutos, artículos, informes y estrategias. [85] Los organismos autores de estos documentos de regulación de la IA no se limitan a un sector de la sociedad e incluyen organizaciones, empresas, organismos y estados-nación. [63]
La UE es una de las jurisdicciones más grandes del mundo y desempeña un papel activo en la regulación global de la tecnología digital a través del GDPR , [86] Digital Services Act , la Digital Markets Act . [87] [88] Para la IA en particular, la Ley de Inteligencia Artificial se considera en 2023 como la regulación de mayor alcance de la IA en todo el mundo. [89] [90]
La mayoría de los países de la Unión Europea (UE) tienen sus propias estrategias nacionales para regular la IA, pero son en gran medida convergentes. [63] La Unión Europea se guía por una Estrategia Europea sobre Inteligencia Artificial, [91] respaldada por un Grupo de Expertos de Alto Nivel en Inteligencia Artificial. [92] [93] En abril de 2019, la Comisión Europea publicó sus Directrices éticas para una inteligencia artificial (IA) confiable , [94] seguidas de sus Recomendaciones de política e inversión para una inteligencia artificial confiable en junio de 2019. [95] La Comisión de la UE El Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial lleva a cabo trabajos sobre IA confiable, y la Comisión ha publicado informes sobre los aspectos de seguridad y responsabilidad de la IA y sobre la ética de los vehículos automatizados. En 2020, la Comisión de la UE buscó opiniones sobre una propuesta de legislación específica sobre IA, y ese proceso está en curso. [63]
El 2 de febrero de 2020, la Comisión Europea publicó su Libro Blanco sobre la Inteligencia Artificial: Un enfoque europeo hacia la excelencia y la confianza . [96] [97] El Libro Blanco consta de dos pilares principales: un "ecosistema de excelencia" y un "ecosistema de confianza". El "ecosistema de confianza" describe el enfoque de la UE para un marco regulatorio para la IA. En su enfoque propuesto, la Comisión distingue las aplicaciones de IA en función de si son de "alto riesgo" o no. Sólo las aplicaciones de IA de alto riesgo deberían estar dentro del alcance de un futuro marco regulatorio de la UE. Una aplicación de IA se considera de alto riesgo si opera en un sector de riesgo (como la atención médica, el transporte o la energía) y "se utiliza de tal manera que es probable que surjan riesgos importantes". Para las aplicaciones de IA de alto riesgo, los requisitos se refieren principalmente a: "datos de entrenamiento", "mantenimiento de datos y registros", "información que se debe proporcionar", "robustez y precisión" y "supervisión humana". También existen requisitos específicos para determinados usos, como la identificación biométrica remota. Las aplicaciones de IA que no se consideren de "alto riesgo" podrían regirse por un sistema de etiquetado voluntario. En lo que respecta al cumplimiento y la aplicación, la Comisión considera evaluaciones de conformidad previas que podrían incluir "procedimientos de prueba, inspección o certificación" y/o "verificaciones de los algoritmos y de los conjuntos de datos utilizados en la fase de desarrollo". Una estructura de gobernanza europea sobre la IA en forma de un marco para la cooperación de las autoridades nacionales competentes podría facilitar la implementación del marco regulatorio. [98] [99]
Un borrador de enero de 2021 se filtró en línea el 14 de abril de 2021, [100] antes de que la Comisión presentara su "Propuesta de Reglamento por el que se establecen normas armonizadas sobre inteligencia artificial" oficial una semana después. [101] Poco después, se propuso formalmente la Ley de Inteligencia Artificial (también conocida como Ley de IA) sobre esta base. [102] Esta propuesta incluye un perfeccionamiento del enfoque basado en el riesgo de 2020 con, esta vez, cuatro categorías de riesgo: "mínimo", "limitado", "alto" e "inaceptable". [103] La propuesta ha sido duramente criticada en el debate público. Los académicos han expresado su preocupación por varios elementos poco claros de la propuesta –como la definición amplia de lo que constituye IA– y temieron implicaciones legales no deseadas, especialmente para grupos vulnerables como pacientes y migrantes. [104] [105] La categoría de riesgo "IA de propósito general" se agregó a la Ley de IA para tener en cuenta modelos versátiles como ChatGPT , que no se ajustaban al marco regulatorio basado en aplicaciones. [106] A diferencia de otras categorías de riesgo, los modelos de IA de propósito general pueden regularse en función de sus capacidades, no solo de sus usos. Los modelos de IA de propósito general más débiles están sujetos a requisitos de transparencia, mientras que aquellos que se considera que plantean "riesgos sistémicos" (en particular aquellos entrenados utilizando capacidades computacionales superiores a 10 25 FLOPS ) también deben someterse a un proceso de evaluación exhaustivo. [107] Finalmente se adoptó una versión posterior de la Ley de IA en mayo de 2024. [108] La Ley de IA se aplicará progresivamente. [109] Se prohibirá el reconocimiento de emociones y la identificación biométrica remota en tiempo real , con algunas excepciones, por ejemplo para las fuerzas del orden. [110]
Los observadores han expresado su preocupación por la multiplicación de propuestas legislativas en el marco de la Comisión von der Leyen . La velocidad de las iniciativas legislativas está impulsada en parte por las ambiciones políticas de la UE y podría poner en riesgo los derechos digitales de los ciudadanos europeos, incluido el derecho a la privacidad, [111] especialmente frente a garantías inciertas de protección de datos a través de la ciberseguridad. [93] Entre los principios rectores declarados en la variedad de propuestas legislativas en el área de la IA bajo la Comisión von der Leyen se encuentran los objetivos de autonomía estratégica [112] y el concepto de soberanía digital. [113] El 29 de mayo de 2024, el Tribunal de Cuentas Europeo publicó un informe en el que afirmaba que las medidas de la UE no estaban bien coordinadas con las de los países de la UE; que el seguimiento de las inversiones no era sistemático; y que se necesitaba una gobernanza más sólida. [114]
En noviembre de 2020, [115] DIN , DKE y el Ministerio Federal de Economía y Energía de Alemania publicaron la primera edición de la "Hoja de ruta alemana de normalización para la inteligencia artificial" (NRM KI) y la presentaron al público en la Cumbre Digital de la Gobierno Federal de Alemania. [116] NRM KI describe los requisitos para futuras regulaciones y estándares en el contexto de la IA. La implementación de las recomendaciones de acción tiene como objetivo ayudar a fortalecer la economía y la ciencia alemanas en la competencia internacional en el campo de la inteligencia artificial y crear condiciones favorables a la innovación para esta tecnología emergente . La primera edición es un documento de 200 páginas escrito por 300 expertos. La segunda edición del NRM KI se publicó coincidiendo con la Cumbre Digital del gobierno alemán el 9 de diciembre de 2022. [117] DIN coordinó a más de 570 expertos participantes de una amplia gama de campos de la ciencia, la industria, la sociedad civil y el sector público. . La segunda edición es un documento de 450 páginas.
Por un lado, NRM KI cubre los temas centrales en términos de aplicaciones (por ejemplo, medicina, movilidad, energía y medio ambiente, servicios financieros, automatización industrial) y cuestiones fundamentales (por ejemplo, clasificación de IA, seguridad, certificabilidad, sistemas sociotécnicos, ética). . [117] Por otro lado, proporciona una visión general de los términos centrales en el campo de la IA y su entorno en una amplia gama de grupos de interés y fuentes de información. En total, el documento cubre 116 necesidades de estandarización y proporciona seis recomendaciones centrales para la acción. [118]
El 30 de octubre de 2023, los miembros del G7 suscriben once principios rectores para el diseño, producción e implementación de sistemas avanzados de inteligencia artificial, así como un Código de Conducta voluntario para desarrolladores de inteligencia artificial en el contexto del Proceso de Hiroshima. [119]
El acuerdo recibe el aplauso de Ursula von der Leyen, que encuentra en él los principios de la Directiva sobre IA, actualmente en fase de finalización.
En octubre de 2023, la autoridad de privacidad italiana aprobó un reglamento que establece tres principios para las decisiones terapéuticas tomadas por sistemas automatizados: transparencia de los procesos de toma de decisiones, supervisión humana de las decisiones automatizadas y no discriminación algorítmica. [120]
En 2023, se presentó un proyecto de ley en la Cámara de Representantes de Filipinas que proponía el establecimiento de la Autoridad de Desarrollo de la Inteligencia Artificial (AIDA), que supervisaría el desarrollo y la investigación de la inteligencia artificial. También se propuso que AIDA actuara como organismo de control contra los delitos que utilizan IA. [121]
La Comisión Electoral también ha considerado en 2024 la prohibición del uso de IA y deepfake para hacer campaña. Buscan implementar regulaciones que se aplicarían ya en las elecciones generales de 2025. [122]
En 2018, el Ministerio de Ciencia, Innovación y Universidades de España aprobó una Estrategia de I+D en Inteligencia Artificial. [123]
Con la formación del segundo gobierno de Pedro Sánchez en enero de 2020 se fortalecieron las áreas relacionadas con las nuevas tecnologías que, desde 2018, estaban en el Ministerio de Economía . Así, en 2020 se creó la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA). [124] Desde este órgano superior, siguiendo las recomendaciones realizadas por la Estrategia de I+D en Inteligencia Artificial de 2018, [125] se desarrolló la Estrategia Nacional de Inteligencia Artificial (2020), que ya preveía acciones relativas a la gobernanza de la inteligencia artificial y a la ética. normas que deben regir su uso. Este proyecto también se incluyó dentro del Plan de Recuperación, Transformación y Resiliencia (2021).
Durante 2021, [124] el Gobierno reveló que estas ideas se desarrollarían a través de una nueva agencia gubernamental, y los Presupuestos Generales del Estado para 2022 autorizaron su creación y destinaron cinco millones de euros para su desarrollo. [126]
El Consejo de Ministros , en su reunión del día 13 de septiembre de 2022, inició el proceso para la elección de la sede de AESIA. [127] [128] 16 provincias españolas presentaron candidaturas, decantándose el Gobierno por La Coruña , que propuso el edificio de La Terraza. [129]
El 22 de agosto de 2023, el Gobierno aprobó el reglamento interno de la Agencia. [130] Con ello, España se convirtió en el primer país europeo con una agencia dedicada a la supervisión de la IA, anticipándose a la entrada en vigor del futuro Reglamento Europeo sobre Inteligencia Artificial, [131] que establece la necesidad de que los Estados miembros cuenten con un autoridad supervisora en esta materia.El Reino Unido apoyó la aplicación y el desarrollo de la IA en las empresas a través de la Estrategia de Economía Digital 2015-2018 [132] introducida a principios de 2015 por Innovate UK como parte de la Estrategia Digital del Reino Unido. [132] En el sector público, el Departamento de Digital, Cultura, Medios y Deportes asesoró sobre ética de los datos y el Instituto Alan Turing brindó orientación sobre el diseño responsable y la implementación de sistemas de IA. [133] [134] En términos de seguridad cibernética, en 2020 el Centro Nacional de Seguridad Cibernética emitió una guía sobre 'Herramientas de seguridad inteligentes'. [46] [135] Al año siguiente, el Reino Unido publicó su Estrategia Nacional de IA de 10 años, [136] que describe acciones para evaluar los riesgos de IA a largo plazo, incluidos los riesgos catastróficos relacionados con AGI. [137]
En marzo de 2023, el Reino Unido publicó el libro blanco Un enfoque pro-innovación para la regulación de la IA . [138] Este documento técnico presenta principios generales de IA, pero deja una flexibilidad significativa a los reguladores existentes en cómo adaptan estos principios a áreas específicas como el transporte o los mercados financieros. [139] En noviembre de 2023, el Reino Unido organizó la primera cumbre sobre seguridad de la IA , y el primer ministro Rishi Sunak tenía como objetivo posicionar al Reino Unido como líder en la regulación de la seguridad de la IA . [140] [141] Durante la cumbre, el Reino Unido creó un Instituto de Seguridad de IA , como una evolución del Frontier AI Taskforce dirigido por Ian Hogarth . En particular, se asignó al instituto la responsabilidad de avanzar en las evaluaciones de seguridad de los modelos de IA más avanzados del mundo, también llamados modelos de IA de frontera . [142]
El gobierno del Reino Unido indicó su renuencia a legislar temprano, argumentando que podría reducir el crecimiento del sector y que las leyes podrían volverse obsoletas debido a mayores avances tecnológicos. [143]
Las discusiones sobre la regulación de la IA en los Estados Unidos han incluido temas como la oportunidad de regular la IA, la naturaleza del marco regulatorio federal para gobernar y promover la IA, incluido qué agencia debería liderar, los poderes regulatorios y de gobierno de esa agencia, y cómo actualizar las regulaciones frente a la tecnología que cambia rápidamente, así como las funciones de los gobiernos y tribunales estatales. [144]
Ya en 2016, la administración Obama había comenzado a centrarse en los riesgos y las regulaciones de la inteligencia artificial. En un informe titulado Preparándose para el futuro de la inteligencia artificial, [145] el Consejo Nacional de Ciencia y Tecnología sentó un precedente al permitir a los investigadores continuar desarrollando nuevas tecnologías de IA con pocas restricciones. En el informe se afirma que "el enfoque de la regulación de productos compatibles con IA para proteger la seguridad pública debe basarse en la evaluación de los aspectos de riesgo...". [146] Estos riesgos serían la razón principal para crear cualquier forma de regulación, dado que cualquier regulación existente no se aplicaría a la tecnología de IA.
El primer informe principal fue el Plan Estratégico Nacional de Investigación y Desarrollo de la Inteligencia Artificial. [147] El 13 de agosto de 2018, la Sección 1051 de la Ley de Autorización de Defensa Nacional John S. McCain del año fiscal 2019 (PL 115-232) estableció la Comisión de Seguridad Nacional sobre Inteligencia Artificial "para considerar los métodos y medios necesarios para avanzar en el desarrollo de inteligencia artificial, aprendizaje automático y tecnologías asociadas para abordar de manera integral las necesidades de seguridad y defensa nacional de los Estados Unidos". [148] La Comisión Nacional de Seguridad sobre Inteligencia Artificial proporciona orientación sobre la regulación de la IA relacionada con la seguridad. [149] La Ley de Iniciativa de Inteligencia Artificial (S.1558) es un proyecto de ley que establecería una iniciativa federal diseñada para acelerar la investigación y el desarrollo de la IA para, entre otras cosas , la seguridad económica y nacional de los Estados Unidos. [150] [151]
El 7 de enero de 2019, tras una Orden Ejecutiva sobre el mantenimiento del liderazgo estadounidense en inteligencia artificial, [152] la Oficina de Política Científica y Tecnológica de la Casa Blanca publicó un borrador de Guía para la regulación de las aplicaciones de inteligencia artificial , [153] que incluye diez principios para Estados Unidos. Agencias estatales a la hora de decidir si regular la IA y cómo hacerlo. [154] En respuesta, el Instituto Nacional de Estándares y Tecnología ha publicado un documento de posición, [155] y la Junta de Innovación de Defensa ha emitido recomendaciones sobre el uso ético de la IA. [45] Un año después, la administración pidió comentarios sobre la regulación en otro borrador de su Guía para la regulación de aplicaciones de inteligencia artificial. [156]
Otras agencias específicas que trabajan en la regulación de la IA incluyen la Administración de Alimentos y Medicamentos, [39] que ha creado vías para regular la incorporación de la IA en las imágenes médicas. [38] El Consejo Nacional de Ciencia y Tecnología también publicó el Plan Estratégico Nacional de Investigación y Desarrollo de Inteligencia Artificial, [157] que recibió escrutinio público y recomendaciones para mejorarlo aún más y permitir una IA confiable. [158]
En marzo de 2021, la Comisión Nacional de Seguridad sobre Inteligencia Artificial publicó su informe final. [159] En el informe, afirmaron que "los avances en la IA, incluido el dominio de capacidades de IA más generales a lo largo de una o más dimensiones, probablemente proporcionarán nuevas capacidades y aplicaciones. Algunos de estos avances podrían conducir a puntos de inflexión o saltos en las capacidades". Dichos avances también pueden introducir nuevas preocupaciones y riesgos y la necesidad de nuevas políticas, recomendaciones y avances técnicos para garantizar que los sistemas estén alineados con los objetivos y valores, incluida la seguridad, la solidez y la confiabilidad. Estados Unidos debe monitorear los avances en IA y hacer que sean necesarios. inversiones en tecnología y prestar atención a las políticas para garantizar que los sistemas de IA y sus usos se alineen con nuestros objetivos y valores".
En junio de 2022, los senadores Rob Portman y Gary Peters presentaron la Ley Global de Mitigación de Riesgos Catastróficos. El proyecto de ley bipartidista "también ayudaría a contrarrestar el riesgo de que la inteligencia artificial... sea objeto de abusos que puedan suponer un riesgo catastrófico". [160] [161] El 4 de octubre de 2022, el presidente Joe Biden dio a conocer una nueva Declaración de Derechos de la IA, [162] que describe cinco protecciones que los estadounidenses deberían tener en la era de la IA: 1. Sistemas seguros y eficaces, 2. Protección contra la discriminación algorítmica , 3. Privacidad de datos, 4. Aviso y explicación, y 5. Alternativas humanas, consideración y respaldo. El proyecto de ley fue presentado en octubre de 2021 por la Oficina de Política Científica y Tecnológica (OSTP), un departamento del gobierno estadounidense que asesora al presidente en materia de ciencia y tecnología. [163]
En enero de 2023, el Consejo de la Ciudad de Nueva York promulgó la Ley de Auditoría Prejudicial de la Ciudad de Nueva York (Ley Local 144 [164] ) en noviembre de 2021. Originalmente debía entrar en vigor el 1 de enero de 2023, pero la fecha de aplicación de la Ley Local 144 se retrasó. debido al gran volumen de comentarios recibidos durante la audiencia pública sobre las reglas propuestas por el Departamento de Protección al Consumidor y al Trabajador (DCWP) para aclarar los requisitos de la legislación. Finalmente entró en vigor el 5 de julio de 2023. [165] A partir de esta fecha, las empresas que operan y contratan en la ciudad de Nueva York tienen prohibido utilizar herramientas automatizadas para contratar candidatos o promover empleados, a menos que las herramientas hayan sido auditadas de forma independiente para detectar sesgos. .
En julio de 2023, la Administración Biden-Harris obtuvo compromisos voluntarios de siete empresas ( Amazon , Anthropic , Google , Inflection , Meta , Microsoft y OpenAI ) para gestionar los riesgos asociados con la IA. Las empresas se comprometieron a garantizar que los productos de IA se sometan a pruebas de seguridad tanto internas como externas antes de su lanzamiento público; compartir información sobre la gestión de los riesgos de la IA con la industria, los gobiernos, la sociedad civil y el mundo académico; priorizar la ciberseguridad y proteger los componentes propietarios del sistema de IA; desarrollar mecanismos para informar a los usuarios cuando el contenido es generado por IA, como marcas de agua; informar públicamente sobre las capacidades, limitaciones y áreas de uso de sus sistemas de IA; priorizar la investigación sobre los riesgos sociales que plantea la IA, incluidos los prejuicios, la discriminación y las preocupaciones sobre la privacidad; y desarrollar sistemas de inteligencia artificial para abordar desafíos sociales, que van desde la prevención del cáncer hasta la mitigación del cambio climático . En septiembre de 2023, ocho empresas adicionales ( Adobe , Cohere , IBM , Nvidia , Palantir , Salesforce , Scale AI y Stability AI ) suscribieron estos compromisos voluntarios. [166] [167]
En octubre de 2023, la administración Biden señaló que publicaría una orden ejecutiva que aprovecharía el poder adquisitivo del gobierno federal para dar forma a las regulaciones de IA, insinuando una postura gubernamental proactiva en la regulación de las tecnologías de IA. [168] El 30 de octubre de 2023, el presidente Biden publicó esta Orden Ejecutiva sobre Inteligencia Artificial Segura, Protegida y Confiable . La Orden Ejecutiva aborda una variedad de cuestiones, como centrarse en estándares para infraestructura crítica, ciberseguridad mejorada por IA y proyectos de síntesis biológica financiados con fondos federales. [169]
La Orden Ejecutiva otorga autoridad a varias agencias y departamentos del gobierno de EE. UU., incluidos los departamentos de Energía y Defensa, para aplicar las leyes existentes de protección al consumidor al desarrollo de la IA. [170]
La Orden Ejecutiva se basa en acuerdos anteriores de la Administración con empresas de IA para implementar nuevas iniciativas para formar un "equipo rojo" o probar modelos básicos de IA de doble uso, especialmente aquellos que tienen el potencial de plantear riesgos de seguridad, con datos y resultados compartidos con el Gobierno federal.
La Orden Ejecutiva también reconoce los desafíos sociales de la IA y pide a las empresas que construyen modelos básicos de IA de doble uso que tengan cuidado con estos problemas sociales. Por ejemplo, la Orden Ejecutiva establece que la IA no debería "empeorar la calidad del empleo" y no debería "causar perturbaciones en la fuerza laboral". Además, la Orden Ejecutiva de Biden exige que AI debe "promover la equidad y los derechos civiles" y no puede perjudicar a los grupos marginados. [171] También pidió que los modelos de base incluyan "marcas de agua" para ayudar al público a discernir entre contenido humano y generado por IA, lo que ha generado controversia y críticas por parte de los investigadores de detección de deepfake. [172]
En febrero de 2024, el senador Scott Wiener presentó a la legislatura de California la Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial . El proyecto de ley se basa en gran medida en la orden ejecutiva de Biden . [173] Su objetivo es reducir los riesgos catastróficos exigiendo pruebas de seguridad para los modelos de IA más potentes. Si se aprueba, el proyecto de ley también establecerá un grupo de computación en la nube financiado con fondos públicos en California. [174]
El 21 de marzo de 2024, el estado de Tennessee promulgó una legislación llamada Ley ELVIS , dirigida específicamente a los deepfakes de audio y la clonación de voz. [175] Esta legislación fue la primera legislación promulgada en el país destinada a regular la simulación de imagen, voz y semejanza con IA. [176] El proyecto de ley fue aprobado por unanimidad en la Cámara de Representantes y el Senado de Tennessee . [177] Sus partidarios esperaban que el éxito de esta legislación inspirara acciones similares en otros estados, contribuyendo a un enfoque unificado del derecho de autor y la privacidad en la era digital y reforzando la importancia de salvaguardar los derechos de los artistas contra el uso no autorizado de sus voces y semejanzas. [178] [179]
El 13 de marzo de 2024, el gobernador de Utah, Spencer Cox, firmó la SB 149 "Ley de Política de Inteligencia Artificial". Esta legislación entrará en vigor el 1 de mayo de 2024. Establece responsabilidad, en particular para las empresas que no divulgan su uso de IA generativa cuando lo exigen las leyes estatales de protección del consumidor, o cuando los usuarios cometen delitos penales utilizando IA generativa. También crea la Oficina de Política de Inteligencia Artificial y el Programa Laboratorio de Aprendizaje de Inteligencia Artificial . [180] [181]
Las cuestiones jurídicas relacionadas con los sistemas de armas letales autónomas (LAWS), en particular el cumplimiento de las leyes de los conflictos armados , se han estado debatiendo en las Naciones Unidas desde 2013, en el contexto de la Convención sobre Ciertas Armas Convencionales . [182] En particular, se celebraron reuniones informales de expertos en 2014, 2015 y 2016 y se nombró un Grupo de Expertos Gubernamentales (GGE) para seguir deliberando sobre la cuestión en 2016. Un conjunto de principios rectores sobre los LAWS afirmados por el GGE sobre los LAWS fueron adoptados en 2018. [183]
En 2016, China publicó un documento de posición en el que cuestionaba la idoneidad del derecho internacional existente para abordar la eventualidad de armas totalmente autónomas, convirtiéndose en el primer miembro permanente del Consejo de Seguridad de la ONU en abordar la cuestión [47] y dando lugar a propuestas de regulación global. [184] La posibilidad de una moratoria o prohibición preventiva del desarrollo y uso de LAWS también ha sido planteada en varias ocasiones por otras delegaciones nacionales ante la Convención sobre Ciertas Armas Convencionales y es fuertemente defendida por la Campaña para Detener los Robots Asesinos –una coalición de organizaciones no gubernamentales. [185] El gobierno de Estados Unidos sostiene que el derecho internacional humanitario vigente es capaz de regular el desarrollo o uso de LAWS. [186] El Servicio de Investigación del Congreso indicó en 2023 que Estados Unidos no tiene LAWS en su inventario, pero que su política no prohíbe el desarrollo y empleo de las mismas. [187]