Joy Adowaa Buolamwini es una científica informática y activista digital canadiense-estadounidense que trabajó en el Media Lab del MIT . [2] Fundó la Algorithmic Justice League (AJL), una organización que trabaja para desafiar el sesgo en el software de toma de decisiones , utilizando el arte, la defensa y la investigación para resaltar las implicaciones sociales y los daños de la inteligencia artificial (IA). [3]
Buolamwini nació en Edmonton , Alberta, creció en Mississippi y asistió a la escuela secundaria Cordova en Cordova, Tennessee. [4] A los nueve años, se inspiró en Kismet , el robot del MIT , y aprendió por sí misma XHTML , JavaScript y PHP . [5] [6] Era una saltadora con pértiga competitiva [7] y también estaba involucrada en el baloncesto. En un episodio de podcast que grabó en el programa de Brené Brown "Dare to Lead", recuerda completar su tarea de Física AP entre los descansos de baloncesto. [8]
Como estudiante universitaria, Buolamwini estudió informática en el Instituto Tecnológico de Georgia , donde investigó informática sanitaria . [9] Buolamwini se graduó como becaria del presidente de Stamps [10] en Georgia Tech en 2012, [11] y fue la finalista más joven del premio InVenture de Georgia Tech en 2009. [12]
Buolamwini es becaria Rhodes , becaria Fulbright , becaria Stamps , becaria Astronaut y becaria del Instituto Anita Borg . [13] Como becaria Rhodes , estudió aprendizaje y tecnología en la Universidad de Oxford , donde fue estudiante en el Jesus College de Oxford . [14] [15] Durante su beca, participó en el primer año de servicio formal, trabajando en proyectos centrados en la comunidad. [15] [16] Obtuvo una maestría en Artes y Ciencias de los Medios del MIT en 2017 por una investigación supervisada por Ethan Zuckerman . [1] Obtuvo un doctorado en Artes y Ciencias de los Medios del MIT Media Lab en 2022 con una tesis sobre Enfrentando la mirada codificada con auditorías evocativas y auditorías algorítmicas . [17]
En 2011, Buolamwini trabajó con el programa de tracoma del Centro Carter para desarrollar un sistema de evaluación basado en Android para su uso en Etiopía. [18] [5]
En 2013, como becaria Fulbright, trabajó con científicos informáticos locales en Zambia para ayudar a los jóvenes zambianos a convertirse en creadores de tecnología. [19] El 14 de septiembre de 2016, Buolamwini apareció en la cumbre de la Casa Blanca sobre Informática para todos. [ cita requerida ]
Buolamwini fue investigadora en el Media Lab del MIT , donde trabajó para identificar sesgos en algoritmos y desarrollar prácticas de rendición de cuentas durante su diseño; [20] en el laboratorio, Buolamwini fue miembro del grupo del Centro de Medios Cívicos de Ethan Zuckerman . [21] [22] Durante su investigación, Buolamwini mostró 1.000 rostros a sistemas de reconocimiento facial y pidió a los sistemas que identificaran si los rostros eran femeninos o masculinos, y descubrió que al software le resultaba difícil identificar a las mujeres de piel oscura. [23] Su proyecto, Gender Shades , se convirtió en parte de su tesis del MIT. [1] [24] Su artículo de 2018 Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification [25] provocó respuestas de IBM y Microsoft , que mejoraron rápidamente su software. [26] [27] También creó Aspire Mirror, un dispositivo que permite a los usuarios ver un reflejo de sí mismos en función de lo que los inspira. [28] Su programa, Algorithmic Justice League, tiene como objetivo resaltar el sesgo en el código que puede conducir a la discriminación contra grupos subrepresentados. [29] Ha creado dos películas, Code4Rights y Algorithmic Justice League: Unmasking Bias . [30] [31] Se desempeñó como directora de tecnología (CTO) de Techturized Inc., una empresa de tecnología para el cuidado del cabello. [9]
La investigación de Buolamwini fue citada en 2020 como una influencia para que Google y Microsoft abordaran el sesgo de género y raza en sus productos y procesos. [32]
También se desempeñó como asesora del presidente Biden antes de la Orden Ejecutiva 14110 de su administración , publicada el 30 de octubre de 2023. La orden también se conoce como la Orden Ejecutiva sobre el Desarrollo y Uso Seguro, Protegido y Confiable de la Inteligencia Artificial (a veces denominada "Orden Ejecutiva sobre Inteligencia Artificial"). [33] [34]
En 2023, publicó su primer libro, Unmasking AI: My Mission to Protect What Is Human in a World of Machines, que narra su investigación . [35]
Buolamwini fundó la Algorithmic Justice League (AJL) en 2016 para promover una inteligencia artificial (IA) equitativa y responsable . [36] La organización AJL combina el arte y la investigación para señalar las posibles implicaciones sociales y los daños de la IA. La empresa trabaja para concienciar al público sobre los impactos de la IA y promover más investigaciones en el área.
El sitio web de AJL ofrece información y un blog en vivo. [37] Hay varias secciones en el sitio donde los usuarios pueden compartir historias, donar o escribir a representantes del Congreso de los Estados Unidos. En 2019, Buolamwini testificó ante el Comité de Supervisión y Reforma de la Cámara de Representantes de los Estados Unidos sobre los riesgos de la tecnología de reconocimiento facial. [38]
La sección Voicing Erasure del sitio web de AJL contiene piezas habladas de Buolamwini, Allison Koenecke , Safiya Noble , Ruha Benjamin , Kimberlé Crenshaw , Megan Smith y Sasha Costanza-Chock sobre el sesgo en los sistemas de voz. [39] [40] Buolamwini y Koenecke son los investigadores principales del sitio web que trabajan para descubrir los sesgos de los sistemas de voz. Han escrito que los sistemas de reconocimiento de voz tienen más problemas con los hablantes de inglés vernáculo afroamericanos y que estos sistemas escuchan en secreto las conversaciones de los usuarios. [ cita requerida ] También han escrito sobre lo que consideran estereotipos de género dañinos perpetuados por los sistemas de reconocimiento de voz en Siri , Amazon Alexa y Microsoft Cortana . [ cita requerida ]
The Coded Gaze es un minidocumental que debutó en el Museo de Bellas Artes de Boston en 2016 y actualmente está disponible a través de YouTube . Buolamwini usa el minidocumental para hablar sobre el sesgo que ella cree que reside en el funcionamiento de la inteligencia artificial. La inspiración para el minidocumental y su investigación surgió cuando estaba en el MIT, creando su arte "Aspire Mirror", que usa el reconocimiento facial para reflejar a otra persona que inspira a un usuario, en el rostro de ese usuario. [41] Buolamwini anticipó que Serena Williams , otra mujer de piel oscura, se reflejaría en su rostro. Sin embargo, la tecnología no reconoció su rostro. La investigación de Buolamwini investigó por qué sucedió esto y, en consecuencia, la llevó a concluir que la exclusión de personas que se parecen a ella era el resultado de una práctica que ella llamó "Coded Gaze". [42] Ella analiza más a fondo este concepto en el minidocumental, "The Coded Gaze". El documental explora cómo la IA puede estar sujeta a sesgos raciales y de género que reflejan las opiniones y los antecedentes culturales de quienes la desarrollan. [43]
Coded Bias es un documental dirigido por Shalini Kantayya que presenta la investigación de Buolamwini sobre las imprecisiones de la IA en la tecnología de reconocimiento facial y el software de evaluación automatizada. [44] [37] Se centra en lo que los creadores de la película consideran una falta de regulación de las herramientas de reconocimiento facial vendidas por IBM , Microsoft y Amazon , y que dicen que perpetúa el sesgo racial y de género. La película describe una disputa entre inquilinos de Brooklyn y una empresa de administración de edificios que intentó utilizar el reconocimiento facial para controlar la entrada a un edificio. La película contó con la autora de Weapons of Math Destruction, Cathy O'Neill, y miembros de Big Brother Watch en Londres, incluida Silkie Carlo . El 5 de abril de 2021, el documental estuvo disponible para su transmisión en Netflix . [45]
Los proyectos realizados por Algorithmic Justice League se han exhibido en instituciones de arte como el Barbican Centre en Londres, Reino Unido, y Ars Electronica en Linz, Austria. [46]
En 2017, Buolamwini recibió el gran premio en la categoría profesional en el concurso Search for Hidden Figures , vinculado al estreno de la película Hidden Figures en diciembre de 2016. [52] El concurso, patrocinado por PepsiCo y 21st Century Fox , tenía como objetivo "ayudar a descubrir la próxima generación de líderes femeninas en ciencia, tecnología, ingeniería y matemáticas", [53] y atrajo 7.300 presentaciones de mujeres jóvenes de todo Estados Unidos. [11]
Buolamwini dio una charla TEDx en Beacon Street titulada How I'mfight bias in algorithms . [54] [55] [56] En 2018, apareció en TED Radio Hour . [57] Apareció en Smart Girls de Amy Poehler en 2018. [4] La revista Fast Company la incluyó como una de las cuatro "heroínas del diseño que defienden la democracia en línea". [58] Fue incluida en la lista de las 100 mujeres de la BBC en 2018. [59]
En 2019, Buolamwini fue incluida en la lista de 2019 de la revista Fortune de los "50 líderes más grandes del mundo", donde la revista la describió como "la conciencia de la revolución de la IA". [60] También apareció en la lista inaugural Time 100 Next en 2019. [61] En 2020, Buolamwini apareció en una campaña de empoderamiento de las mujeres de la empresa de ropa Levi's para el Día Internacional de la Mujer . [62] También apareció en el documental Coded Bias . [63] En 2020, fue homenajeada con el premio Great Immigrants Award nombrado por Carnegie Corporation de Nueva York . [64]
En 2022, Buolamwini fue nombrada medallista ASQ Hutchens. [65] En 2023, fue incluida en la lista Time 100 AI. [66]
El 9 de junio de 2024, Buolamwini recibió el título honorario de Doctora en Ciencias del Dartmouth College por su trabajo en la exposición de sesgos en los sistemas de IA y la prevención de daños causados por la IA. También fue invitada como oradora principal de los Premios de Justicia Social 2024 de Dartmouth. [67]
Buolamwini ha vivido en Ghana, Barcelona (España), Oxford (Reino Unido) y, en Estados Unidos, en Memphis (Tennessee ) y Atlanta (Georgia) . [12] Se describe a sí misma como una "hija de la ciencia y de las artes", [8] siendo su padre un académico y su madre una artista, además de poeta del código. [8]
{{cite web}}: CS1 maint: nombres numéricos: lista de autores ( enlace ){{cite web}}: CS1 maint: nombres numéricos: lista de autores ( enlace )