La Alianza para la Inteligencia Artificial en Beneficio de las Personas y la Sociedad, también conocida como Alianza para la IA, es una coalición sin fines de lucro comprometida con el uso responsable de la inteligencia artificial . Fundada en septiembre de 2016, la Alianza para la IA (PAI, por sus siglas en inglés) reunió a miembros de más de 90 empresas y organizaciones sin fines de lucro con el fin de explorar recomendaciones de mejores prácticas para la comunidad tecnológica. [1]
La Alianza sobre IA se anunció públicamente el 28 de septiembre de 2016 con los miembros fundadores Amazon , Facebook , Google , DeepMind , Microsoft e IBM , con los copresidentes interinos Eric Horvitz de Microsoft Research y Mustafa Suleyman de DeepMind. [2] [3] [4] [5] Más de 100 socios del mundo académico, la sociedad civil, la industria y organizaciones sin fines de lucro son organizaciones miembros en 2019. [6]
En enero de 2017, Tom Gruber , director de desarrollo avanzado de Apple para Siri , se unió a la junta directiva de Partnership on AI. [7] En octubre de 2017, Terah Lyons se unió a Partnership on AI como directora ejecutiva fundadora de la organización. [8] Lyons aportó a la organización su experiencia en gobernanza tecnológica, con un enfoque específico en inteligencia artificial, IA y políticas de robótica, habiendo trabajado anteriormente como asesora de políticas de la directora de tecnología de los Estados Unidos, Megan Smith . Lyons fue reemplazada por Rebecca Finlay, miembro de la junta directiva de Partnership on AI, como directora ejecutiva interina. Finlay fue nombrada directora ejecutiva de Partnership on AI el 26 de octubre de 2021.
En octubre de 2017, Terah Lyons se unió a Partnership on AI como directora ejecutiva fundadora de la organización. Lyons aportó a la organización su experiencia en gobernanza tecnológica, con un enfoque específico en inteligencia artificial, inteligencia artificial y políticas de robótica, habiendo trabajado anteriormente como asesora de políticas de la directora de tecnología de los Estados Unidos, Megan Smith . La miembro de la junta directiva de Partnership on AI, Rebecca Finlay, reemplazó a Lyons como directora ejecutiva interina. Finlay fue nombrada directora ejecutiva de Partnership on AI el 26 de octubre de 2021.
En octubre de 2018, Baidu se convirtió en la primera empresa china en unirse a la asociación. [9]
En noviembre de 2020, la Alianza sobre IA anunció la Base de Datos de Incidentes de IA (AIID), [10] que es una herramienta para identificar, evaluar, gestionar y comunicar los riesgos y daños de la IA.
En agosto de 2021, la Asociación sobre IA presentó una respuesta al Instituto Nacional de Normas y Tecnología (NIST). La respuesta proporcionó ejemplos del trabajo de la Asociación sobre IA relacionado con la gestión de riesgos de la IA, como el informe Safety Critical AI sobre la publicación responsable de investigaciones sobre IA, el proyecto ABOUT ML sobre documentación y transparencia en los ciclos de vida del aprendizaje automático y la base de datos de incidentes de IA. [11] La respuesta también destacó cómo la base de datos de incidentes de IA incluye algunos de los atributos mínimos del Marco de Gestión de Riesgos de IA del NIST, como estar impulsada por el consenso, basada en el riesgo, ser adaptable y coherente con otros enfoques para gestionar el riesgo de la IA. [11]
El 26 de octubre de 2021, Rebecca Finlay fue nombrada directora ejecutiva. [12]
En febrero de 2023, la Alianza para la Inteligencia Artificial (PAI) lanzó un nuevo marco destinado a orientar el desarrollo y el uso ético de los medios sintéticos. Esta iniciativa contó con el respaldo de una variedad de socios iniciales, incluidas entidades destacadas como Adobe, BBC, CBC/Radio-Canada, Bumble, OpenAI, TikTok, WITNESS y las empresas emergentes de medios sintéticos Synthesia, D-ID y Respeecher. El marco, que enfatiza la transparencia, la creatividad y la seguridad, fue el resultado de un proceso colaborativo de un año de duración que involucró contribuciones de una amplia gama de partes interesadas, incluidas empresas emergentes de medios sintéticos, plataformas de redes sociales, organizaciones de noticias, grupos de defensa, instituciones académicas, profesionales de políticas y comentaristas públicos. [13]
La Alianza para la IA tiene un enfoque de múltiples frentes para lograr un impacto. Sus iniciativas se dividen en cinco programas diferentes: IA e integridad de los medios; IA, trabajo y economía; justicia, transparencia y rendición de cuentas; investigación y diseño inclusivos; y seguridad para la IA. Estos programas apuntan a producir valor a través de resultados específicos, herramientas metodológicas y artículos. [14]
A través del programa sobre IA e integridad de los medios, PAI se esfuerza activamente por establecer las mejores prácticas que garanticen la influencia positiva de la IA en el ecosistema de información global. Reconociendo el potencial de la IA para facilitar contenido en línea dañino y amplificar las narrativas negativas existentes, PAI se compromete a mitigar estos riesgos y fomentar una presencia responsable de la IA. [15]
El programa IA, Trabajo y Economía funciona como una plataforma colaborativa que reúne a economistas, organizaciones de representantes de los trabajadores y socios de PAI para formular una respuesta cohesiva sobre cómo la IA puede contribuir a un futuro económico inclusivo. La reciente publicación de las "Directrices para la IA y la prosperidad compartida" de PAI, el 7 de junio de 2023, describe un plan para el uso juicioso de la IA en varias etapas, orientando a organizaciones, responsables de políticas y entidades laborales. [16]
El programa de Equidad, Transparencia y Responsabilidad, en conjunto con el programa de Investigación y Diseño Inclusivos, busca rediseñar el panorama de la IA en pos de la justicia y la equidad. Al explorar las intersecciones entre la IA y los valores humanos fundamentales, el primero establece pautas para la equidad algorítmica, la explicabilidad y la responsabilidad. Al mismo tiempo, el segundo empodera a las comunidades al brindar pautas para la cocreación de soluciones de IA, fomentando la inclusión en todo el proceso de investigación y diseño. [17] [18]
El programa Safety Critical AI aborda la creciente implementación de sistemas de IA en sectores clave como la medicina, las finanzas, el transporte y las redes sociales. Con el foco puesto en anticipar y mitigar los riesgos potenciales, el programa reúne a socios y partes interesadas para desarrollar las mejores prácticas que abarquen todo el ciclo de vida de la investigación y el desarrollo de la IA. Entre las iniciativas más destacadas se incluyen el establecimiento de la base de datos de incidentes de IA, la formulación de normas para la publicación responsable y la creación del innovador entorno de aprendizaje de IA SafeLife. [19]
La asociación también se basa en bases temáticas que impulsan el enfoque de Partnership on AI. Además de los programas mencionados anteriormente, Partnership on AI busca expandir el impacto social de la IA, fomentando la utilidad social positiva. La organización ha destacado los posibles beneficios de la IA en el bienestar público, la educación, la sostenibilidad, etc. Con estos casos de uso específicos, Partnership on AI está desarrollando un marco ético en el que analizar y medir la eficacia ética de la IA. El marco ético pone énfasis en las prácticas participativas inclusivas que mejoran la equidad en la IA. [20]
La Alianza para la IA ha participado en varias iniciativas destinadas a promover el uso responsable de la IA. Una de sus iniciativas clave es el desarrollo de un marco para la implementación segura de modelos de IA. Este marco guía a los proveedores de modelos en el desarrollo y la implementación de modelos de IA de una manera que garantice la seguridad para la sociedad y pueda adaptarse a las capacidades y usos en evolución. [21]
En colaboración con DeepMind, la Alianza sobre IA también ha lanzado un estudio para investigar las altas tasas de deserción entre mujeres y personas pertenecientes a minorías en el sector tecnológico. [22]
Reconociendo la importancia de la explicabilidad en la IA, la Asociación sobre IA organizó un taller presencial de un día centrado en la implementación de la “inteligencia artificial explicable” (XAI). Este evento reunió a expertos de diversas industrias para debatir y explorar el concepto de XAI. [23]
.jpg/1280px-AI_for_Good_Global_Summit_2018_(41408771354).jpg)
En un esfuerzo por apoyar la integridad de la información, la Alianza sobre IA colaboró con First Draft para investigar estrategias efectivas para abordar el contenido engañoso en línea. [24] Esta iniciativa refleja el enfoque metódico de la organización para identificar y promover las mejores prácticas en IA.
La Alianza sobre IA también está creando recursos para facilitar la participación efectiva entre los profesionales de la IA y las comunidades afectadas. [25]
En noviembre de 2020, la Alianza para la Inteligencia Artificial (APIA) anunció la creación de la Base de Datos de Incidentes de Inteligencia Artificial (AIID, por sus siglas en inglés), un proyecto dedicado a indexar el historial colectivo de daños o cuasi daños que se produjeron en el mundo real mediante la implementación de sistemas de inteligencia artificial. La AIID, que en 2022 pasó a ser una nueva organización independiente sin fines de lucro con fines específicos, sirve como un recurso valioso para comprender y mitigar los posibles riesgos asociados con la IA. [26]
Más recientemente, PAI llevó a cabo el Foro de Políticas 2023 de PAI. Este evento, celebrado en Londres, fue una reunión de diversas partes interesadas para explorar las tendencias recientes en políticas de IA a nivel mundial y las estrategias para garantizar la seguridad de la IA. Durante el evento, la Asociación sobre IA (PAI) dio a conocer su "Guía para la implementación segura del modelo de base" para recibir comentarios del público. Esta guía, diseñada por el Comité Directivo de IA crítica para la seguridad y las contribuciones de la red mundial de PAI, ofrece principios flexibles para gestionar los riesgos vinculados a la implementación de IA a gran escala. Entre los participantes se encontraban responsables de la formulación de políticas, profesionales de la IA, miembros de la filantropía y la sociedad civil, y expertos académicos. [27]
La Junta Directiva de la Alianza para la Inteligencia Artificial (PAI) a partir de 2023 incluye:
En octubre de 2020, Access Now anunció su renuncia oficial a PAI en una carta. Access Now afirmó que había descubierto que la sociedad civil tenía un papel cada vez más pequeño dentro de PAI y que PAI no había influido ni cambiado la actitud de las empresas miembro ni las había alentado a responder o consultar con la sociedad civil de manera sistemática. Access Now también expresó su desacuerdo con el enfoque de PAI sobre la ética y la evaluación de riesgos de la IA, y su defensa de una prohibición total de tecnologías que son fundamentalmente incompatibles con los derechos humanos, como el reconocimiento facial u otras tecnologías biométricas que permiten la vigilancia masiva. [29]
Evitar fallas repetidas de IA requiere dar a conocer las fallas pasadas. Por lo tanto, hoy presentamos una colección sistematizada de incidentes en los que los sistemas inteligentes han causado problemas de seguridad, equidad u otros problemas del mundo real: la base de datos de incidentes de IA (AIID).