Coded Bias es un documental estadounidense dirigido por Shalini Kantayya que se estrenó en el Festival de Cine de Sundance de 2020. [ 1] La película incluye contribuciones de los investigadores Joy Buolamwini , Deborah Raji , Meredith Broussard , Cathy O'Neil , Zeynep Tufekci , Safiya Noble , Timnit Gebru , Virginia Eubanks y Silkie Carlo , entre otros. [2]
Kantayya dirigió anteriormente un documental titulado Catching the Sun y también dirigió un episodio de la serie de televisión de National Geographic , Breakthrough . [3] [4] También es asociada de la Escuela de Posgrado de Periodismo de UC Berkeley . [5] Kantayya dijo en una entrevista con 500 Global el 17 de agosto de 2021 que tres años antes ni siquiera sabía qué era un algoritmo . [6] Leyó el libro Weapons of Math Destruction , que describe cómo la inteligencia artificial , el aprendizaje automático y los algoritmos pueden determinar los resultados de determinadas personas. Más tarde se encontró con el trabajo de Joy Buolamwini a través de una charla TED .
El documental trata sobre la inteligencia artificial y los sesgos que pueden estar presentes en esta tecnología. Los estudios de informática de la investigadora de medios del MIT Joy Buolamwini descubrieron que su rostro era irreconocible en muchos sistemas de reconocimiento facial y trabajó para averiguar por qué fallaban estos sistemas. Más tarde descubrió que los programas de reconocimiento facial solo funcionaban cuando ella usaba una máscara blanca. Luego, descubre de qué otra manera la tecnología artificial puede afectar a las minorías. [7]
Coded Bias afirma que faltan estructuras legales para la inteligencia artificial y que, como resultado, se violan los derechos humanos. Afirma que algunos algoritmos y tecnologías de inteligencia artificial discriminan por raza y género en ámbitos como la vivienda, las oportunidades profesionales, la atención médica, el crédito, la educación y los aspectos legales. [8] Posteriormente, se pidió a Buolamwini y a sus colegas que testificaran ante el Congreso de los Estados Unidos sobre la inteligencia artificial. Buolamwini creó posteriormente un grupo de defensa digital, la Liga de la Justicia Algorítmica . [9]
La película destaca cómo los sistemas de reconocimiento facial pueden causar problemas a los grupos vulnerables, ya que debido a los sesgos dentro del código, no reconocen a todos por igual o como iguales. A medida que las empresas utilizan más el aprendizaje automático, los algoritmos analizados tienen una influencia sustancial sobre la información que discernimos, determinando a las personas que superan con éxito los procesos de contratación automatizados, a las que se les concede acceso a la atención médica y a las que están sujetas a un mayor escrutinio dentro de los sistemas policiales. [10]
La película se estrenó por primera vez en el Festival de Cine de Sundance de 2020 en enero de 2020. [11] Tuvo un lanzamiento limitado el 11 de noviembre de 2020, antes de un lanzamiento completo en cines virtuales en América del Norte el 18 de noviembre de 2020. [12] [13] El lanzamiento limitado obtuvo unos ingresos de taquilla de 10.236 dólares. [13] El 5 de abril de 2021, el documental estuvo disponible para su transmisión en Netflix . [14]
En el sitio web de agregación de reseñas Rotten Tomatoes , la película tiene una calificación de aprobación del 100% basada en 52 reseñas con una calificación promedio de 7.9/10. El consenso crítico del sitio web dice: "Claro, conciso y completo, Coded Bias ofrece una mirada escalofriante a los efectos secundarios en gran parte invisibles de los fundamentos algorítmicos de la sociedad moderna". [15] En Metacritic , la película tiene una puntuación promedio ponderada de 73 sobre 100 basada en siete reseñas de críticos. [16]
En una reseña escrita para el New York Times , Devika Girish afirma: "La película se mueve hábilmente entre críticas pragmáticas y críticas políticas más amplias, argumentando que no es solo que la tecnología sea defectuosa; incluso si fuera perfecta, infringiría peligrosamente las libertades de las personas". [17]
Elogiando el documental por su "ritmo impresionante", Nick Allen, que escribe para RogerEbert.com, afirma: "Uno podría esperar que un documental sobre datos y algoritmos fuera un poco aburrido, pero "Coded Bias" desafía eso al tener mucho en mente y ser rápido, saltando por todo el país y el mundo". [18]
En la reseña del sitio web de la Sociedad de Estudios Sociales de la Ciencia , Renee Shelby cuestionó si los lectores comprendían el poder que, según ella, se abusaba a través de esta recopilación de datos. Afirma: "Donde hay poder, hay resistencia al poder; y la película toca la política "desde arriba" y "desde abajo". La película muestra el activismo de las mujeres y los movimientos sociales (por ejemplo, el Movimiento de los Paraguas de Hong Kong ) que luchan para garantizar que no se abuse de la vigilancia y otras herramientas algorítmicas". [2]
Ashley Sosa, que escribe para videolibrarian.com, le otorgó al documental 2,5 de 5 estrellas y afirma: "El mensaje de advertencia del documental sobre los peligros del sesgo algorítmico se presenta de una manera atractiva y humanista. Los detalles técnicos se reducen al mínimo, lo que podría verse como positivo o negativo según el conocimiento y el interés previos". [19]