El problema del tranvía es una serie de experimentos mentales en ética , psicología e inteligencia artificial que involucran dilemas éticos estilizados sobre si sacrificar a una persona para salvar a un número mayor. La serie generalmente comienza con un escenario en el que un tranvía , trolebús o tren fuera de control se dirige a colisionar y matar a varias personas (tradicionalmente cinco) más adelante en la vía , pero un conductor o transeúnte puede intervenir y desviar el vehículo para matar a una sola persona en una vía diferente. Luego se plantean otras variaciones del vehículo fuera de control y dilemas análogos de vida o muerte (médicos, judiciales, etc.), cada uno con la opción de no hacer nada, en cuyo caso varias personas morirán, o intervenir y sacrificar a una persona inicialmente "segura" para salvar a las demás.
Las opiniones sobre la ética de cada escenario resultan sensibles a detalles de la historia que pueden parecer irrelevantes para el dilema abstracto. La cuestión de formular un principio general que pueda explicar los diferentes juicios que surgen en diferentes variantes de la historia fue planteada en 1967 como parte de un análisis de los debates sobre el aborto y la doctrina del doble efecto por la filósofa inglesa Philippa Foot . [1] Posteriormente apodado "el problema del tranvía" por Judith Jarvis Thomson en un artículo de 1976 que catalizó una amplia literatura, el tema se refiere al metaproblema de por qué se llegan a diferentes juicios en casos particulares.
Los filósofos Judith Thomson [2] [3] Frances Kamm [ 4] y Peter Unger también han analizado extensamente el dilema . [5] El artículo de Thomson de 1976 inició la literatura sobre el problema del tranvía como un tema en sí mismo. Característica de esta literatura son los escenarios alternativos coloridos y cada vez más absurdos en los que la persona sacrificada es empujada a las vías como una forma de detener el tranvía, sus órganos son extraídos para salvar a pacientes de trasplantes o es asesinada de maneras más indirectas que complican la cadena de causalidad y responsabilidad.
Las formas anteriores de escenarios de tranvías individuales precedieron a la publicación de Foot. Frank Chapman Sharp incluyó una versión en un cuestionario moral entregado a estudiantes de pregrado en la Universidad de Wisconsin en 1905. En esta variación, el guardagujas del ferrocarril controlaba el cambio, y el único individuo que debía ser sacrificado (o no) era el hijo del guardagujas. [6] [7] El filósofo alemán del derecho Karl Engisch discutió un dilema similar en su tesis de habilitación en 1930, como lo hizo el erudito legal alemán Hans Welzel en un trabajo de 1951. [8] [9] En su comentario sobre el Talmud , publicado mucho antes de su muerte en 1953, Avrohom Yeshaya Karelitz consideró la cuestión de si es ético desviar un proyectil de una multitud más grande hacia una más pequeña. [10] De manera similar, en The Strike , una obra de televisión transmitida en Estados Unidos el 7 de junio de 1954, un comandante en la Guerra de Corea debe elegir entre ordenar un ataque aéreo contra una fuerza enemiga que se acerca a costa de su propia unidad de patrulla de 20 hombres, o cancelar el ataque y arriesgar las vidas del ejército principal compuesto por 500 hombres. [11]
Desde 2001, el problema del tranvía y sus variantes se han utilizado en la investigación empírica sobre psicología moral . Ha sido un tema de libros populares. [12] Los escenarios de estilo tranvía también surgen al discutir la ética del diseño de vehículos autónomos , que puede requerir programación para elegir a quién o qué golpear cuando una colisión parece ser inevitable. [13]
La versión de Foot del experimento mental, ahora conocido como "Trolley Driver", se desarrolló de la siguiente manera:
Supongamos que un juez o magistrado se enfrenta a unos alborotadores que exigen que se encuentre a un culpable de un determinado crimen y amenazan con vengarse sangrientamente de un sector particular de la comunidad. Como el verdadero culpable es desconocido, el juez se considera capaz de evitar el derramamiento de sangre sólo incriminando a una persona inocente y haciéndola ejecutar. Junto a este ejemplo se coloca otro en el que un piloto cuyo avión está a punto de estrellarse está decidiendo si debe pasar de una zona más habitada a otra menos habitada. Para que el paralelo sea lo más cercano posible, podemos suponer que es el conductor de un tranvía desbocado, que sólo puede conducir de una vía estrecha a otra; cinco hombres trabajan en una vía y un hombre en la otra; cualquiera que se encuentre en la vía en la que entra está destinado a morir. En el caso de los alborotadores, la turba tiene cinco rehenes, de modo que en ambos ejemplos se supone que el intercambio es la vida de un hombre por las vidas de cinco. [1]
Una visión utilitarista afirma que es obligatorio dirigirse hacia la vía en la que hay un hombre en ella. Según el utilitarismo clásico, tal decisión no solo sería permisible, sino que, moralmente hablando, sería la mejor opción (la otra opción sería no hacer nada en absoluto). [14] Este hecho hace que desviar el tranvía sea obligatorio. Un punto de vista alternativo es que, dado que los males morales ya están en su lugar en la situación, cambiar de vía constituye una participación en el mal moral, lo que hace que uno sea parcialmente responsable de la muerte cuando, de lo contrario, nadie sería responsable. Un oponente de la acción también puede señalar la inconmensurabilidad de las vidas humanas. Según algunas interpretaciones de la obligación moral , simplemente estar presente en esta situación y poder influir en su resultado constituye una obligación de participar. Si este es el caso, entonces no hacer nada se consideraría un acto inmoral.
En 2001, Joshua Greene y sus colegas publicaron los resultados de la primera investigación empírica significativa de las respuestas de las personas a los problemas del tranvía. [15] Utilizando imágenes de resonancia magnética funcional , demostraron que los dilemas "personales" (como empujar a un hombre de un puente peatonal) involucran preferentemente regiones cerebrales asociadas con la emoción, mientras que los dilemas "impersonales" (como desviar el tranvía accionando un interruptor) involucran preferentemente regiones asociadas con el razonamiento controlado. Sobre esta base, abogan por la explicación del proceso dual de la toma de decisiones morales . Desde entonces, numerosos otros estudios han empleado los problemas del tranvía para estudiar el juicio moral, investigando temas como el papel y la influencia del estrés, [16] el estado emocional, [17] la gestión de las impresiones, [18] los niveles de anonimato, [19] los diferentes tipos de daño cerebral, [20] la excitación fisiológica, [21] los diferentes neurotransmisores, [22] y los factores genéticos [23] en las respuestas a los dilemas del tranvía.
Los problemas de los tranvías se han utilizado como una medida del utilitarismo, pero su utilidad para tales fines ha sido ampliamente criticada. [24] [25] [26]
En 2017, un grupo dirigido por Michael Stevens realizó el primer experimento realista sobre el problema del tranvía, en el que los sujetos fueron colocados solos en lo que creían que era una estación de cambio de trenes y se les mostró un metraje que creían que era real (pero que en realidad estaba pregrabado) de un tren que bajaba por una vía, con cinco trabajadores en la vía principal y uno en la secundaria; los participantes tenían la opción de tirar de la palanca para desviar el tren hacia la vía secundaria. Cinco de los siete participantes no tiraron de la palanca. [27] [ se necesita una mejor fuente ]
El problema del tranvía ha sido objeto de muchas encuestas en las que aproximadamente el 90% de los encuestados han optado por matar a uno y salvar a los cinco. [28] Si se modifica la situación en la que el sacrificado por los cinco es un pariente o una pareja romántica, es mucho menos probable que los encuestados estén dispuestos a sacrificar la vida de uno. [29]
Una encuesta de 2009 realizada por David Bourget y David Chalmers muestra que el 68% de los filósofos profesionales cambiarían de opinión (sacrificarían a un individuo para salvar cinco vidas) en el caso del problema del tranvía, el 8% no cambiaría y el 24% restante tenía otra opinión o no podía responder. [30]
En un artículo de 2014 publicado en Social and Personality Psychology Compass , [24] los investigadores criticaron el uso del problema del tranvía, argumentando, entre otras cosas, que el escenario que presenta es demasiado extremo y no tiene conexión con situaciones morales de la vida real como para ser útil o educativo. [31]
En su artículo de 2017, Nassim JafariNaimi [32] expone la naturaleza reduccionista del problema del tranvía a la hora de plantear problemas éticos que sirven para sostener una versión empobrecida del utilitarismo. Sostiene que el argumento popular de que el problema del tranvía puede servir como modelo para la moral algorítmica se basa en premisas fundamentalmente erróneas que benefician a los más poderosos y tienen consecuencias potencialmente nefastas para el futuro de las ciudades. [33]
En 2017, en su libro On Human Nature , Roger Scruton critica el uso de dilemas éticos como el problema del tranvía y su uso por filósofos como Derek Parfit y Peter Singer como formas de ilustrar sus puntos de vista éticos. Scruton escribe: "Estos 'dilemas' tienen el carácter útil de eliminar de la situación casi todas las relaciones moralmente relevantes y reducir el problema a uno de mera aritmética". Scruton cree que el hecho de que alguien elija cambiar la vía para que el tren golpee a una persona en lugar de a las cinco no significa que sea necesariamente consecuencialista . Como una forma de mostrar los fallos en las respuestas consecuencialistas a los problemas éticos, Scruton señala elementos paradójicos de la creencia en el utilitarismo y creencias similares. Cree que el experimento mental de la máquina de experiencias de Nozick refuta definitivamente el hedonismo . [34] En su artículo de 2017 El problema del tranvía y el lanzamiento de bombas atómicas, Masahiro Morioka considera el lanzamiento de bombas atómicas como un ejemplo del problema del tranvía y señala que hay cinco "problemas del problema del tranvía", a saber, 1) rareza, 2) inevitabilidad, 3) zona de seguridad, 4) posibilidad de convertirse en víctima, y 5) la falta de perspectiva de las víctimas muertas que fueron privadas de la libertad de elección. [35]
En un artículo de 2018 publicado en Psychological Review , los investigadores señalaron que, como medidas de decisiones utilitaristas, los dilemas sacrificiales como el problema del tranvía miden solo una faceta de las tendencias protoutilitaristas, a saber, las actitudes permisivas hacia el daño instrumental, mientras que ignoran la preocupación imparcial por el bien mayor. Como tal, los autores argumentaron que el problema del tranvía proporciona solo una medida parcial del utilitarismo. [25]
Los problemas del tranvía ponen de relieve la diferencia entre los sistemas éticos deontológicos y consecuencialistas . La cuestión central que estos dilemas ponen de manifiesto es si es correcto o no inhibir activamente la utilidad de un individuo si al hacerlo se produce una mayor utilidad para otros individuos. [13]
La forma básica del problema del tranvía también permite la comparación con otros dilemas relacionados:
Como antes, un tranvía se dirige a toda velocidad por una vía hacia cinco personas. Estás en un puente por debajo del cual pasará y puedes detenerlo colocando algo muy pesado delante de él. Resulta que hay un hombre gordo a tu lado; tu única forma de detener el tranvía es empujarlo por el puente hacia la vía, matándolo para salvar a cinco personas. ¿Deberías continuar?
La resistencia a este curso de acción parece fuerte; cuando se les pregunta, la mayoría de las personas aprobarán apretar el interruptor para salvar una red de cuatro vidas, pero desaprobarán empujar al hombre gordo para salvar una red de cuatro vidas. [36] Esto ha llevado a intentos de encontrar una distinción moral relevante entre los dos casos.
Una posible distinción podría ser que en el primer caso, uno no tiene intención de dañar a nadie –dañar a uno es sólo un efecto secundario de alejar el carro de los cinco. Sin embargo, en el segundo caso, dañar a uno es una parte integral del plan para salvar a los cinco. Esta solución es esencialmente una aplicación de la doctrina del doble efecto , que dice que uno puede tomar una acción que tenga malos efectos secundarios, pero tener la intención deliberada de causar daño (incluso por buenas causas) es incorrecto. Por lo tanto, la acción es permisible incluso si se prevé el daño a la persona inocente, siempre que no sea intencional. Este es un argumento que Shelly Kagan considera (y finalmente rechaza) en su primer libro Los límites de la moralidad . [37]
En el diseño de software para controlar coches autónomos surgen variantes del dilema original del conductor del tranvía . [13] Se prevén situaciones en las que una colisión potencialmente mortal parece inevitable, pero en las que las decisiones tomadas por el software del coche , como contra quién o contra qué chocar, pueden afectar a los detalles del resultado mortal. Por ejemplo, ¿debería el software valorar más o menos la seguridad de los ocupantes del coche que la de las posibles víctimas fuera del coche? [38] [39] [40] [41]
El MIT Media Lab creó una plataforma llamada Moral Machine [42] para permitir al público expresar sus opiniones sobre las decisiones que deberían tomar los vehículos autónomos en escenarios que utilizan el paradigma del problema del tranvía. El análisis de los datos recopilados a través de Moral Machine mostró amplias diferencias en las preferencias relativas entre los diferentes países. [43] Otros enfoques utilizan la realidad virtual para evaluar el comportamiento humano en entornos experimentales. [44] [45] [46] [47] Sin embargo, algunos argumentan que la investigación de casos de tipo tranvía no es necesaria para abordar el problema ético de los automóviles sin conductor, porque los casos de tranvía tienen una limitación práctica grave. Tendría que ser un plan de arriba hacia abajo para adaptarse a los enfoques actuales de abordar emergencias en inteligencia artificial . [48]
Además, queda la pregunta de si la ley debería dictar los estándares éticos que deben utilizar todos los vehículos autónomos, o si los propietarios o conductores de automóviles autónomos individuales deberían determinar los valores éticos de su automóvil, como por ejemplo priorizar la seguridad del propietario o de su familia por encima de la seguridad de los demás. [13] Aunque la mayoría de las personas no estarían dispuestas a utilizar un automóvil automatizado que pudiera sacrificarse en un dilema de vida o muerte, algunos [¿ quiénes? ] creen en la afirmación, un tanto contraintuitiva, de que utilizar valores éticos obligatorios sería, no obstante, lo mejor para ellos. Según Gogoll y Müller, "la razón es, simplemente, que [los ajustes éticos personalizados] muy probablemente darían lugar a un dilema del prisionero ". [49]
En 2016, el gobierno alemán designó una comisión para estudiar las implicaciones éticas de la conducción autónoma. [50] [51] La comisión adoptó 20 reglas que se implementarán en las leyes que regirán las elecciones éticas que harán los vehículos autónomos. [51] : 10–13 La siguiente regla es relevante para el dilema del tranvía:
8. Las decisiones verdaderamente dilemáticas, como la decisión entre una vida humana y otra, dependen de la situación concreta real, incorporando un comportamiento “impredecible” de las partes afectadas. Por lo tanto, no pueden estandarizarse claramente ni programarse de manera que sean éticamente incuestionables. Los sistemas tecnológicos deben diseñarse para evitar accidentes. Sin embargo, no pueden estandarizarse para una evaluación compleja o intuitiva de las repercusiones de un accidente de manera que puedan reemplazar o anticipar la decisión de un conductor responsable con la capacidad moral de tomar decisiones correctas. Es cierto que un conductor humano estaría actuando ilegalmente si matara a una persona en una emergencia para salvar la vida de una o más personas, pero no estaría actuando necesariamente de manera culpable. Tales juicios jurídicos, realizados en retrospectiva y teniendo en cuenta circunstancias especiales, no pueden transformarse fácilmente en evaluaciones ex ante abstractas/generales y, por lo tanto, tampoco en actividades de programación correspondientes. … [51] : 11
{{cite journal}}: CS1 maint: varios nombres: lista de autores ( enlace )
