La subcontratación moral se refiere a asignar la responsabilidad de la toma de decisiones éticas a entidades externas, a menudo algoritmos . El término se utiliza a menudo en debates sobre informática y equidad algorítmica , [1] pero puede aplicarse a cualquier situación en la que uno apela a agentes externos para eximirse de responsabilidad por sus acciones. En este contexto, la subcontratación moral se refiere específicamente a la tendencia de la sociedad a culpar a la tecnología, y no a sus creadores o usuarios, por cualquier daño que pueda causar. [2]
El término "subcontratación moral" fue acuñado por primera vez por el Dr. Rumman Chowdhury , un científico de datos preocupado por la superposición entre la inteligencia artificial y las cuestiones sociales. [1] Chowdhury utilizó el término para describir los temores inminentes de una llamada “ Cuarta Revolución Industrial ” tras el surgimiento de la inteligencia artificial.
Los tecnólogos suelen aplicar la subcontratación moral para alejarse de su participación en la creación de productos ofensivos. En su charla TED, Chowdhury da el ejemplo de un creador que disculpa su trabajo diciendo que simplemente estaba haciendo su trabajo. [1] Este es un caso de subcontratación moral y de no responsabilizarse de las consecuencias de la creación.
Cuando se trata de IA, la subcontratación moral permite a los creadores decidir cuándo la máquina es humana y cuándo es una computadora, trasladando la culpa y la responsabilidad de las dificultades morales de los tecnólogos a la tecnología. Las conversaciones sobre la IA y los prejuicios y sus impactos requieren responsabilidad para generar cambios. Es difícil abordar estos sistemas sesgados si sus creadores recurren a la subcontratación moral para evitar asumir cualquier responsabilidad por el problema. [2]
Un ejemplo de subcontratación moral es la ira que se dirige a las máquinas por “quitar empleos a los humanos” en lugar de a las empresas por emplear esa tecnología y poner en peligro los empleos en primer lugar. [1]
El término "subcontratación moral" se refiere al concepto de subcontratación o contratación de una operación externa para completar un trabajo específico para otra organización. En el caso de la subcontratación moral, se supone que el trabajo de resolver dilemas morales o tomar decisiones de acuerdo con un código ético lo realiza otra entidad. [3]
En el campo médico, la IA está cada vez más involucrada en los procesos de toma de decisiones sobre qué pacientes tratar y cómo tratarlos. [4] La responsabilidad del médico de tomar decisiones informadas sobre lo que es mejor para sus pacientes se subcontrata a un algoritmo. También se señala que la simpatía es una parte importante de la práctica médica; un aspecto que la inteligencia artificial, evidentemente, falta. [5] Esta forma de subcontratación moral es una preocupación importante en la comunidad médica.
Otro campo de la tecnología en el que con frecuencia se menciona la subcontratación moral es el de los vehículos autónomos . [6] Keith Abney, profesor de la Universidad Estatal Politécnica de California, propuso un escenario de ejemplo: "Supongamos que tenemos algunos adolescentes [alborotadores] y ven un vehículo autónomo, conducen directamente hacia él. Saben que el vehículo autónomo se desviará de la carretera y se irá. por un precipicio, pero ¿debería hacerlo?" [6] La decisión de sacrificar el vehículo autónomo (y cualquier pasajero dentro) o el vehículo que se acerca a él se escribirá en los algoritmos que definen el comportamiento del automóvil. En el caso de la subcontratación moral, la responsabilidad de cualquier daño causado por un accidente puede atribuirse al propio vehículo autónomo, en lugar de a los creadores que escribieron el protocolo que el vehículo utilizará para "decidir" qué hacer. [1]
La subcontratación moral también se utiliza para delegar las consecuencias de los algoritmos policiales predictivos a la tecnología, en lugar de a los creadores o a la policía. Hay muchas preocupaciones éticas con la vigilancia policial predictiva debido al hecho de que resulta en una vigilancia excesiva de las comunidades minoritarias y de bajos ingresos. [7] En el contexto de la subcontratación moral, el ciclo de retroalimentación positiva que supone enviar fuerzas policiales desproporcionadas a comunidades minoritarias se atribuye al algoritmo y a los datos que se introducen en este sistema, más que a los usuarios y creadores de la tecnología policial predictiva.
La subcontratación moral también se ve comúnmente en apelaciones a la religión para justificar la discriminación o el daño. En su libro Qué significa ser moral, el sociólogo Phil Zuckerman contradice la noción religiosa popular de que la moralidad proviene de Dios. A menudo se cita la religión como base de una postura moral sin ninguna relación tangible entre las creencias religiosas y la postura personal. [8] En estos casos, los individuos religiosos "subcontratarán" sus creencias y opiniones personales alegando que son el resultado de su identificación religiosa. Esto se ve cuando la religión se cita como un factor de creencias políticas, [9] creencias médicas, [10] y, en casos extremos, una excusa para la violencia. [11]
La subcontratación moral también se puede ver en el mundo empresarial en términos de fabricar bienes y evitar la responsabilidad ambiental. Algunas empresas de Estados Unidos trasladarán su proceso de producción a países extranjeros con políticas ambientales más relajadas para evitar las leyes de contaminación que existen en Estados Unidos. Un estudio de Harvard Business Review encontró que "en países con regulaciones ambientales estrictas, las empresas tienen en promedio un 29% menos de emisiones internas. Por otro lado, tal endurecimiento de la regulación resulta en emisiones un 43% más altas en el extranjero". [12] Las consecuencias de tasas de contaminación más altas se atribuyen entonces a las regulaciones laxas en estos países, en lugar de a las propias empresas que se trasladaron deliberadamente a estas áreas para evitar una política de contaminación estricta.
Chowdhury tiene una voz destacada en los debates sobre la intersección de la ética y la IA. Sus ideas se han incluido en The Atlantic, [13] Forbes, [3] MIT Technology Review, [14] y Harvard Business Review. [15]