La Conferencia ACM sobre Equidad, Responsabilidad y Transparencia (ACM FAccT, anteriormente conocida como ACM FAT*) es una serie de conferencias académicas revisadas por pares sobre ética y sistemas informáticos. [1] Patrocinada por la Association for Computing Machinery , esta conferencia se centra en cuestiones como la transparencia algorítmica , la equidad en el aprendizaje automático , el sesgo y la ética desde una perspectiva multidisciplinaria. [2] La comunidad de la conferencia incluye científicos informáticos, estadísticos, científicos sociales, académicos de derecho y otros. [3]
La conferencia está patrocinada por grandes empresas tecnológicas como Facebook , Twitter y Google , y grandes fundaciones como la Fundación Rockefeller , la Fundación Ford , la Fundación MacArthur y Luminate . [4] Los patrocinadores contribuyen a un fondo general (no se permiten contribuciones "asignadas") y no tienen voz ni voto en la selección, el contenido o la estructura de la conferencia. [5]
El acrónimo FATE se refiere a Equidad, Responsabilidad, Transparencia y Ética en sistemas sociotécnicos. FATE es un tema de creciente interés a medida que aumentan las implicaciones sociales y éticas de sistemas complejos como la inteligencia artificial (IA), el aprendizaje automático (ML) y el procesamiento del lenguaje natural (NLP). El tema plantea un desafío interdisciplinario para cerrar la brecha de transparencia entre académicos técnicos y no técnicos y los responsables de las políticas para garantizar la seguridad y la equidad de los sistemas algorítmicos a medida que avanzan a un ritmo rápido. [6] Algunas soluciones y técnicas que se han descubierto incluyen la inteligencia artificial explicable (XAI).
Las recientes adopciones de IA tanto en el sector público como en el privado incluyen el algoritmo predictivo de reincidencia (también conocido como COMPAS ), que se implementó en el Tribunal de los EE. UU., así como la herramienta de reclutamiento impulsada por IA de Amazon, que luego se demostró que favorecía a los solicitantes masculinos sobre los femeninos. Además, el soporte de decisiones basado en IA (ADS) impulsado por técnicas de aprendizaje automático se está integrando cada vez más en campos como la justicia penal, la educación y la provisión de beneficios. [7] FATE funciona como un medio para analizar más a fondo los algoritmos para generar conciencia y trabajar hacia una solución. Empresas como Microsoft han creado equipos de investigación específicamente dedicados al tema. [8]
La Conferencia FAccT 2024 está buscando artículos específicamente dentro de las siguientes áreas: Auditorías y prácticas de evaluación, Desarrollo e implementación de sistemas, Experiencias e interacciones, Estudios críticos, Derecho y políticas, y Filosofía.
Las investigaciones de la conferencia ACM FAccT han influido enormemente tanto en las normas públicas como en el funcionamiento de las empresas. Los gobiernos y las organizaciones han utilizado las ideas de la conferencia para crear directrices y políticas. Por ejemplo, los estudios sobre el sesgo en los algoritmos han ayudado a cambiar los métodos de contratación en las grandes empresas tecnológicas, haciéndolos más justos. Además, esta investigación ha dado forma a las leyes sobre cómo debe gestionarse la inteligencia artificial (IA). La conferencia también ha ayudado a orientar los debates mundiales sobre la ética de la IA, contribuyendo a la elaboración de directrices importantes como la Ley de IA de la Unión Europea y los Principios de IA de la OCDE.
Aunque la conferencia ACM FAccT goza de buena reputación, ha recibido algunas críticas. Algunas personas dicen que las ideas compartidas en la conferencia suelen estar demasiado centradas en la teoría y pueden no funcionar bien para problemas del mundo real. Otros han notado que, aunque la conferencia habla sobre la equidad y la transparencia en la IA, las empresas que la patrocinan no siempre crean tecnología que siga estos valores. También existe un debate sobre si la conferencia puede seguir siendo verdaderamente independiente mientras recibe dinero de las grandes empresas tecnológicas.
Para obtener más información sobre áreas relevantes para FATE, consulte:
Arte de inteligencia artificial
Marketing de inteligencia artificial
Ética de la inteligencia artificial
Las conferencias pasadas y futuras de FAccT incluyen:
[1]
Binns, Reuben (2021). "Equidad en el aprendizaje automático: lecciones de filosofía política". Actas de la Conferencia ACM de 2021 sobre equidad, rendición de cuentas y transparencia : 149–159. doi :10.1145/3442188.3445919.</ref>