stringtranslate.com

Subcontratación moral

La subcontratación moral se refiere a asignar la responsabilidad de la toma de decisiones éticas a entidades externas, a menudo algoritmos . El término se utiliza a menudo en debates sobre informática y equidad algorítmica , [1] pero puede aplicarse a cualquier situación en la que uno apela a agentes externos para eximirse de responsabilidad por sus acciones. En este contexto, la subcontratación moral se refiere específicamente a la tendencia de la sociedad a culpar a la tecnología, y no a sus creadores o usuarios, por cualquier daño que pueda causar. [2]

Definición

El término "subcontratación moral" fue acuñado por primera vez por el Dr. Rumman Chowdhury , un científico de datos preocupado por la superposición entre la inteligencia artificial y las cuestiones sociales. [1] Chowdhury utilizó el término para describir los temores inminentes de una llamada “ Cuarta Revolución Industrial ” tras el surgimiento de la inteligencia artificial.

Los tecnólogos suelen aplicar la subcontratación moral para alejarse de su participación en la creación de productos ofensivos. En su charla TED, Chowdhury da el ejemplo de un creador que disculpa su trabajo diciendo que simplemente estaba haciendo su trabajo. [1] Este es un caso de subcontratación moral y de no responsabilizarse de las consecuencias de la creación.

Cuando se trata de IA, la subcontratación moral permite a los creadores decidir cuándo la máquina es humana y cuándo es una computadora, trasladando la culpa y la responsabilidad de las dificultades morales de los tecnólogos a la tecnología. Las conversaciones sobre la IA y los prejuicios y sus impactos requieren responsabilidad para generar cambios. Es difícil abordar estos sistemas sesgados si sus creadores recurren a la subcontratación moral para evitar asumir cualquier responsabilidad por el problema. [2]

Un ejemplo de subcontratación moral es la ira que se dirige a las máquinas por “quitar empleos a los humanos” en lugar de a las empresas por emplear esa tecnología y poner en peligro los empleos en primer lugar. [1]

El término "subcontratación moral" se refiere al concepto de subcontratación o contratación de una operación externa para completar un trabajo específico para otra organización. En el caso de la subcontratación moral, se supone que el trabajo de resolver dilemas morales o tomar decisiones de acuerdo con un código ético lo realiza otra entidad. [3]

Aplicaciones del mundo real

En el campo médico, la IA está cada vez más involucrada en los procesos de toma de decisiones sobre qué pacientes tratar y cómo tratarlos. [4] La responsabilidad del médico de tomar decisiones informadas sobre lo que es mejor para sus pacientes se subcontrata a un algoritmo. También se señala que la simpatía es una parte importante de la práctica médica; un aspecto que la inteligencia artificial, evidentemente, falta. [5] Esta forma de subcontratación moral es una preocupación importante en la comunidad médica.

Otro campo de la tecnología en el que con frecuencia se menciona la subcontratación moral es el de los vehículos autónomos . [6] Keith Abney, profesor de la Universidad Estatal Politécnica de California, propuso un escenario de ejemplo: "Supongamos que tenemos algunos adolescentes [alborotadores] y ven un vehículo autónomo, conducen directamente hacia él. Saben que el vehículo autónomo se desviará de la carretera y se irá. por un precipicio, pero ¿debería hacerlo?" [6] La decisión de sacrificar el vehículo autónomo (y cualquier pasajero dentro) o el vehículo que se acerca a él se escribirá en los algoritmos que definen el comportamiento del automóvil. En el caso de la subcontratación moral, la responsabilidad de cualquier daño causado por un accidente puede atribuirse al propio vehículo autónomo, en lugar de a los creadores que escribieron el protocolo que el vehículo utilizará para "decidir" qué hacer. [1]

La subcontratación moral también se utiliza para delegar las consecuencias de los algoritmos policiales predictivos a la tecnología, en lugar de a los creadores o a la policía. Hay muchas preocupaciones éticas con la vigilancia policial predictiva debido al hecho de que resulta en una vigilancia excesiva de las comunidades minoritarias y de bajos ingresos. [7] En el contexto de la subcontratación moral, el ciclo de retroalimentación positiva que supone enviar fuerzas policiales desproporcionadas a comunidades minoritarias se atribuye al algoritmo y a los datos que se introducen en este sistema, más que a los usuarios y creadores de la tecnología policial predictiva.

Fuera de la tecnología

Religión

La subcontratación moral también se ve comúnmente en apelaciones a la religión para justificar la discriminación o el daño. En su libro Qué significa ser moral, el sociólogo Phil Zuckerman contradice la noción religiosa popular de que la moralidad proviene de Dios. A menudo se cita la religión como base de una postura moral sin ninguna relación tangible entre las creencias religiosas y la postura personal. [8] En estos casos, los individuos religiosos "subcontratarán" sus creencias y opiniones personales alegando que son el resultado de su identificación religiosa. Esto se ve cuando la religión se cita como un factor de creencias políticas, [9] creencias médicas, [10] y, en casos extremos, una excusa para la violencia. [11]

Fabricación

La subcontratación moral también se puede ver en el mundo empresarial en términos de fabricar bienes y evitar la responsabilidad ambiental. Algunas empresas de Estados Unidos trasladarán su proceso de producción a países extranjeros con políticas ambientales más relajadas para evitar las leyes de contaminación que existen en Estados Unidos. Un estudio de Harvard Business Review encontró que "en países con regulaciones ambientales estrictas, las empresas tienen en promedio un 29% menos de emisiones internas. Por otro lado, tal endurecimiento de la regulación resulta en emisiones un 43% más altas en el extranjero". [12] Las consecuencias de tasas de contaminación más altas se atribuyen entonces a las regulaciones laxas en estos países, en lugar de a las propias empresas que se trasladaron deliberadamente a estas áreas para evitar una política de contaminación estricta.

Ruman Chowdhury

Chowdhury tiene una voz destacada en los debates sobre la intersección de la ética y la IA. Sus ideas se han incluido en The Atlantic, [13] Forbes, [3] MIT Technology Review, [14] y Harvard Business Review. [15]

Referencias

  1. ^ abcde Chowdhury, Rumman (8 de junio de 2018), Subcontratación moral: la humanidad en la era de la IA , consultado el 28 de noviembre de 2023
  2. ^ ab "'No creo que pueda existir una vigilancia ética: Rumman Chowdhury sobre la responsabilidad en la IA ". El guardián . 2023-05-29. ISSN  0261-3077 . Consultado el 14 de octubre de 2023 .
  3. ^ ab Chowdhury, Rumman. "Subcontratación moral: encontrar la humanidad en la inteligencia artificial". Forbes . Consultado el 14 de octubre de 2023 .
  4. ^ Jeque, Sonia Jawaid (2020). "Inteligencia artificial y asignación de recursos en la atención médica: la división proceso-resultado en las perspectivas sobre la toma de decisiones morales" (PDF) . Simposio sobre IA para el bien social .
  5. ^ Farhud, Dariush D.; Zokaei, Shaghayegh (27 de octubre de 2021). "Cuestiones éticas de la inteligencia artificial en la medicina y la asistencia sanitaria". Revista iraní de salud pública . 50 (11): i-v. doi :10.18502/ijph.v50i11.7600. ISSN  2251-6093. PMC 8826344 . PMID  35223619. 
  6. ^ ab "¿Cómo tomarán los coches sin conductor decisiones de vida o muerte?". Hora de noticias de PBS . 28/05/2016 . Consultado el 28 de noviembre de 2023 .
  7. ^ VCE (17 de febrero de 2022). "Errores de la actuación policial predictiva: un análisis ético". Conversaciones de Viterbi sobre ética . Consultado el 30 de noviembre de 2023 .
  8. ^ McKay, Ryan; Whitehouse, Harvey (marzo de 2015). "Religión y moralidad". Boletín Psicológico . 141 (2): 447–473. doi : 10.1037/a0038455 . ISSN  1939-1455. PMC 4345965 . PMID  25528346. 
  9. ^ Graham, Jesse; Haidt, Jonathan (febrero de 2010). "Más allá de las creencias: las religiones unen a los individuos a comunidades morales". Revisión de Personalidad y Psicología Social . 14 (1): 140-150. doi :10.1177/1088868309353415. ISSN  1088-8683. PMID  20089848. S2CID  264630346.
  10. ^ Pelcic, Gordana; Karacic, Silvana; Mikirtichan, Galina L.; Kubar, Olga I.; Leavitt, Frank J.; Cheng-tek Tai, Michael; Morishita, Naoki; Vuletic, Suzana; Tomašević, Luka (octubre de 2016). "Excepción religiosa para la vacunación o excusas religiosas para evitar la vacunación". Revista médica croata . 57 (5): 516–521. doi :10.3325/cmj.2016.57.516. ISSN  0353-9504. PMC 5141457 . PMID  27815943. 
  11. ^ Gonçalves, Juliane Piasseschi de Bernardin; Lucchetti, Giancarlo; Maraldi, Everton de Oliveira; Fernández, Paulo Eduardo Lahoz; Menezes, Paulo Rossi; Vallada, Homero (2023). "El papel de la religiosidad y la espiritualidad en la violencia interpersonal: una revisión sistemática y un metanálisis". Revista Brasileña de Psiquiatría . 45 (2): 162–181. doi :10.47626/1516-4446-2022-2832. PMC 10154014 . PMID  36331229. 
  12. ^ Ben-David, Itzhak (Zahi); Kleimeier, Stefanie; Viehs, Michael (4 de febrero de 2019). "Investigación: cuando las regulaciones ambientales son más estrictas en el país, las empresas emiten más en el extranjero". Revisión de negocios de Harvard . ISSN  0017-8012 . Consultado el 30 de noviembre de 2023 .
  13. ^ Chowdhury, Rumman (17 de febrero de 2023). "Vi a Elon Musk matar la cultura de Twitter desde adentro". El Atlántico . Consultado el 14 de octubre de 2023 .
  14. ^ "¿Qué es un" algoritmo "? Depende de a quién le preguntes". Revisión de tecnología del MIT . Consultado el 14 de octubre de 2023 .
  15. ^ "Cómo practicar una IA responsable". Revisión de negocios de Harvard . 2021-06-16. ISSN  0017-8012 . Consultado el 14 de octubre de 2023 .