La transparencia algorítmica es el principio según el cual los factores que influyen en las decisiones que toman los algoritmos deben ser visibles o transparentes para las personas que utilizan, regulan y se ven afectadas por los sistemas que emplean esos algoritmos. Aunque la frase fue acuñada en 2016 por Nicholas Diakopoulos y Michael Koliska sobre el papel de los algoritmos a la hora de decidir el contenido de los servicios de periodismo digital, [1] el principio subyacente se remonta a la década de 1970 y al auge de los sistemas automatizados para la evaluación del crédito al consumo.
Las frases "transparencia algorítmica" y "responsabilidad algorítmica" [2] a veces se usan indistintamente –especialmente porque fueron acuñadas por las mismas personas– pero tienen significados sutilmente diferentes. En concreto, "transparencia algorítmica" establece que los datos de entrada del algoritmo y el uso del algoritmo en sí deben ser conocidos, pero no necesariamente justos. La " responsabilidad algorítmica " implica que las organizaciones que utilizan algoritmos deben rendir cuentas de las decisiones que toman esos algoritmos, aunque las decisiones las tome una máquina y no un ser humano. [3]
La investigación actual sobre la transparencia algorítmica se interesa tanto por los efectos sociales del acceso a servicios remotos que ejecutan algoritmos, [4] como por los enfoques matemáticos y de ciencias de la computación que se pueden utilizar para lograr la transparencia algorítmica [5] En los Estados Unidos, la Oficina de Protección del Consumidor de la Comisión Federal de Comercio estudia cómo los consumidores utilizan los algoritmos realizando su propia investigación sobre la transparencia algorítmica y financiando investigaciones externas. [6] En la Unión Europea , las leyes de protección de datos que entraron en vigor en mayo de 2018 incluyen un "derecho a la explicación" de las decisiones tomadas por los algoritmos, aunque no está claro qué significa esto. [7] Además, la Unión Europea fundó el Centro Europeo para la Transparencia Algorítmica (ECAT). [8]