La aversión al algoritmo es "una evaluación sesgada de un algoritmo que se manifiesta en comportamientos y actitudes negativos hacia el algoritmo en comparación con un agente humano". [1] Describe un fenómeno en el que los humanos rechazan los consejos de un algoritmo en un caso en el que aceptarían el mismo consejo si pensaran que proviene de otro ser humano.
Los algoritmos , como los que emplean métodos de aprendizaje automático o diversas formas de inteligencia artificial , se utilizan comúnmente para brindar recomendaciones o consejos a los tomadores de decisiones humanos. Por ejemplo, los sistemas de recomendación se utilizan en el comercio electrónico para identificar productos que podrían gustarle a un cliente, y la inteligencia artificial se utiliza en la atención médica para ayudar con el diagnóstico y las decisiones de tratamiento. Sin embargo, los humanos a veces parecen resistirse o rechazar estas recomendaciones algorítmicas más que si la recomendación hubiera venido de un humano. En particular, los algoritmos suelen ser capaces de superar a los humanos, por lo que rechazar los consejos algorítmicos puede dar lugar a un rendimiento deficiente o resultados subóptimos.
Este es un tema emergente y no está del todo claro por qué o bajo qué circunstancias la gente mostrará aversión a los algoritmos. En algunos casos, parece más probable que las personas acepten recomendaciones de un algoritmo que de un ser humano, un fenómeno llamado apreciación de algoritmos . [2]
La aversión a los algoritmos se ha estudiado en una amplia variedad de contextos. Por ejemplo, la gente parece preferir las recomendaciones de chistes de un humano en lugar de un algoritmo, [3] y prefieren confiar en un humano para predecir el número de pasajeros de aerolíneas de cada estado de EE. UU. en lugar de un algoritmo. [4] La gente también parece preferir las recomendaciones médicas de médicos humanos en lugar de un algoritmo. [5]
Se han propuesto varios marcos para explicar las causas de la aversión a los algoritmos y las técnicas o características del sistema que podrían ayudar a reducir la aversión. [ dieciséis]
Los algoritmos pueden usarse en una función de asesoramiento (brindando asesoramiento a un ser humano que tomará la decisión final) o en una función delegativa (donde el algoritmo toma una decisión sin supervisión humana). Un sistema de recomendación de películas que proporcione una lista de sugerencias tendría una función de asesoramiento , mientras que el conductor humano delega la tarea de conducir el coche al piloto automático de Tesla . Generalmente, la falta de control de las decisiones tiende a aumentar la aversión a los algoritmos. [ cita necesaria ]
En general, la gente tiende a juzgar a las máquinas de forma más crítica que a los humanos. [7] Se ha demostrado que varias características o factores del sistema influyen en la forma en que las personas evalúan los algoritmos.
Una de las razones por las que la gente muestra resistencia a los algoritmos es la falta de comprensión sobre cómo el algoritmo llega a su recomendación. [3] Las personas también parecen tener una mejor intuición sobre cómo otro ser humano haría recomendaciones. Mientras que las personas suponen que otros humanos explicarán las diferencias únicas entre situaciones, a veces perciben que los algoritmos son incapaces de considerar las diferencias individuales y, en consecuencia, se resisten a los algoritmos. [8]
En general, la gente se muestra escéptica respecto de que los algoritmos puedan hacer predicciones precisas en determinadas áreas, especialmente si la tarea implica una característica aparentemente humana como la moral o la empatía . La aversión a los algoritmos tiende a ser mayor cuando la tarea es más subjetiva y menor en tareas que son objetivas o cuantificables. [1]
Se ha demostrado que la experiencia en un campo particular aumenta la aversión a los algoritmos [2] y reduce el uso de reglas de decisión algorítmica. [9] El exceso de confianza puede explicar parcialmente este efecto; Los expertos pueden sentir que un algoritmo no es capaz de realizar los tipos de juicios que ellos hacen. En comparación con los no expertos, los expertos también tienen más conocimiento del campo y, por lo tanto, pueden ser más críticos con una recomendación. Cuando un no experto podría aceptar una recomendación ("El algoritmo debe saber algo que yo no sé"), el experto podría encontrar un error específico en la recomendación del algoritmo ("Esta recomendación no tiene en cuenta un factor en particular").
La investigación sobre la toma de decisiones ha demostrado que los expertos en un campo determinado tienden a pensar en las decisiones de manera diferente que los no expertos. [10] Los expertos fragmentan y agrupan la información; por ejemplo, los grandes maestros de ajedrez verán posiciones iniciales (por ejemplo, el gambito de dama o la apertura del alfil ) en lugar de piezas individuales en el tablero. Los expertos pueden ver una situación como una representación funcional (por ejemplo, un médico podría ver una trayectoria y un resultado previsto para un paciente en lugar de una lista de medicamentos y síntomas). Estas diferencias también pueden explicar en parte la mayor aversión a los algoritmos observada entre los expertos.
Diferentes normas e influencias culturales pueden hacer que las personas respondan de manera diferente a las recomendaciones algorítmicas. La forma en que se presentan las recomendaciones (por ejemplo, lenguaje, tono, etc.) puede hacer que las personas respondan de manera diferente. [ cita necesaria ]
Los nativos digitales son más jóvenes y conocen la tecnología toda su vida, mientras que los inmigrantes digitales no. La edad es un factor comúnmente citado que se supone que afecta si las personas aceptan o no las recomendaciones algorítmicas. Por ejemplo, un estudio encontró que la confianza en un asesor financiero algorítmico era menor entre las personas mayores en comparación con los participantes más jóvenes del estudio. [11] Sin embargo, otras investigaciones han encontrado que la aversión al algoritmo no varía con la edad. [2]
Los algoritmos suelen ser capaces de superar a los humanos o realizar tareas de forma mucho más rentable. [4] [3]
Una forma de reducir la aversión algorítmica es proporcionar al tomador de decisiones humano control sobre la decisión final.
Se ha demostrado que proporcionar explicaciones sobre cómo funcionan los algoritmos reduce la aversión. Estas explicaciones pueden adoptar diversas formas, incluso sobre cómo funciona el algoritmo en su conjunto, por qué hace una recomendación particular en un caso específico o qué tan seguro está de su recomendación. [1]
Las recomendaciones algorítmicas representan un nuevo tipo de información en muchos campos. Por ejemplo, un diagnóstico médico de IA de una infección bacteriana es diferente a una prueba de laboratorio que indica la presencia de una bacteria. Cuando quienes toman decisiones se enfrentan a una tarea por primera vez, pueden mostrarse especialmente reacios a utilizar un algoritmo. Se ha demostrado que los efectos del aprendizaje logrados mediante tareas repetidas, retroalimentación constante e incentivos financieros pueden contribuir a reducir la aversión a los algoritmos. [12]
Los estudios no muestran consistentemente que las personas demuestren prejuicios contra los algoritmos y, a veces, muestran lo contrario, prefiriendo el consejo de un algoritmo en lugar de un humano. Este efecto se llama apreciación del algoritmo . [2] Los resultados son mixtos, lo que muestra que las personas a veces parecen preferir los consejos que provienen de un algoritmo en lugar de los de un ser humano.
Por ejemplo, es más probable que los clientes indiquen interés inicial a los agentes de ventas humanos en comparación con los agentes de ventas automatizados, pero es menos probable que les proporcionen información de contacto. Esto se debe a "niveles más bajos de expectativa de desempeño y expectativa de esfuerzo asociados con los agentes de ventas humanos versus los agentes de ventas automatizados". [13]