La ética de la inteligencia artificial es la rama de la ética de la tecnología específica de los sistemas de inteligencia artificial (IA). [1] La ética de la inteligencia artificial cubre una amplia gama de temas dentro del campo que se considera que tienen intereses éticos particulares. Esto incluye sesgos algorítmicos , equidad , toma de decisiones automatizada , responsabilidad , privacidad y regulación . También cubre varios desafíos futuros emergentes o potenciales, como la ética de las máquinas (cómo fabricar máquinas que se comporten éticamente), sistemas de armas autónomos letales , dinámica de la carrera armamentista , seguridad y alineación de la IA , desempleo tecnológico , desinformación habilitada por la IA , cómo tratar ciertas IA. sistemas si tienen un estatus moral (bienestar y derechos de la IA), superinteligencia artificial y riesgos existenciales . [1] Algunas áreas de aplicación también pueden tener implicaciones éticas particularmente importantes, como la atención médica , la educación o el ejército.
La ética de las máquinas (o moralidad de las máquinas) es el campo de investigación que se ocupa del diseño de agentes morales artificiales (AMA), robots o computadoras artificialmente inteligentes que se comportan moralmente o como si fueran morales. [3] [4] [5] [6] Para explicar la naturaleza de estos agentes, se ha sugerido considerar ciertas ideas filosóficas, como las caracterizaciones estándar de agencia , agencia racional , agencia moral y agencia artificial, que son relacionado con el concepto de AMA. [7]
Isaac Asimov consideró la cuestión en la década de 1950 en su Yo, robot . Ante la insistencia de su editor John W. Campbell Jr. , propuso las Tres Leyes de la Robótica para gobernar los sistemas artificialmente inteligentes. Luego dedicó gran parte de su trabajo a probar los límites de sus tres leyes para ver dónde fallarían o dónde crearían un comportamiento paradójico o inesperado. [8] Su trabajo sugiere que ningún conjunto de leyes fijas puede anticipar suficientemente todas las circunstancias posibles. [9] Más recientemente, académicos y muchos gobiernos han cuestionado la idea de que la propia IA pueda ser considerada responsable. [10] Un panel convocado por el Reino Unido en 2010 revisó las leyes de Asimov para aclarar que la IA es responsabilidad de sus fabricantes o de su propietario/operador. [11]
En 2009, durante un experimento en el Laboratorio de Sistemas Inteligentes de la Escuela Politécnica Federal de Lausana , Suiza, robots que estaban programados para cooperar entre sí (en la búsqueda de un recurso beneficioso y evitando uno venenoso) finalmente aprendieron a mentirse unos a otros. otros en un intento de acaparar el recurso beneficioso. [12]
Algunos expertos y académicos han cuestionado el uso de robots para el combate militar, especialmente cuando a dichos robots se les asigna cierto grado de funciones autónomas. [13] La Marina de los EE.UU. ha financiado un informe que indica que a medida que los robots militares se vuelven más complejos, debería prestarse mayor atención a las implicaciones de su capacidad para tomar decisiones autónomas. [14] [15] El presidente de la Asociación para el Avance de la Inteligencia Artificial ha encargado un estudio para analizar esta cuestión. [16] Señalan programas como el Dispositivo de Adquisición del Lenguaje que puede emular la interacción humana.
Vernor Vinge , entre muchos otros, ha sugerido que puede llegar un momento en que algunas, si no todas, las computadoras sean más inteligentes que los humanos. El inicio de este evento se conoce comúnmente como " la Singularidad " [17] y es el punto central de discusión en la filosofía del Singularitarismo . Si bien las opiniones varían en cuanto al destino final de la humanidad tras la Singularidad, los esfuerzos por mitigar los posibles riesgos existenciales provocados por la inteligencia artificial se han convertido en los últimos años en un importante tema de interés entre los científicos informáticos, los filósofos y el público en general. El Machine Intelligence Research Institute ha sugerido la necesidad de crear una " IA amigable ", lo que significa que los avances que ya se están produciendo con la IA también deberían incluir un esfuerzo para hacer que la IA sea intrínsecamente amigable y humana. [18]
Hay discusiones sobre la creación de pruebas para ver si una IA es capaz de tomar decisiones éticas . Alan Winfield concluye que la prueba de Turing es defectuosa y que el requisito para que una IA pase la prueba es demasiado bajo. [19] Una prueba alternativa propuesta es la llamada Prueba Ética de Turing, que mejoraría la prueba actual al hacer que varios jueces decidan si la decisión de la IA es ética o no. [19]
En 2009, académicos y expertos técnicos asistieron a una conferencia organizada por la Asociación para el Avance de la Inteligencia Artificial para discutir el impacto potencial de los robots y las computadoras, y el impacto de la posibilidad hipotética de que pudieran volverse autosuficientes y tomar sus propias decisiones. Discutieron la posibilidad y el grado en que las computadoras y los robots podrían adquirir algún nivel de autonomía, y en qué medida podrían usar tales habilidades para posiblemente representar cualquier amenaza o peligro. [20] Señalaron que algunas máquinas han adquirido diversas formas de semiautonomía, incluida la capacidad de encontrar fuentes de energía por sí mismas y la posibilidad de elegir de forma independiente objetivos para atacar con armas. También señalaron que algunos virus informáticos pueden eludir la eliminación y han alcanzado una "inteligencia de cucaracha". Señalaron que la autoconciencia tal como se describe en la ciencia ficción es probablemente poco probable, pero que existen otros peligros y dificultades potenciales. [17]
Sin embargo, hay una tecnología en particular que tiene el potencial de hacer realidad la idea de robots moralmente capaces. En un artículo sobre la adquisición de valores morales por parte de los robots, Nayef Al-Rodhan menciona el caso de los chips neuromórficos , cuyo objetivo es procesar información de forma similar a los humanos, de forma no lineal y con millones de neuronas artificiales interconectadas. [21] Los robots integrados con tecnología neuromórfica podrían aprender y desarrollar conocimientos de una manera exclusivamente humana. Inevitablemente, esto plantea la cuestión del entorno en el que tales robots aprenderían sobre el mundo y cuya moralidad heredarían, o si terminarían desarrollando también "debilidades" humanas: egoísmo, una actitud favorable a la supervivencia, vacilación, etc.
En Moral Machines: Teaching Robots Right from Wrong , [22] Wendell Wallach y Colin Allen concluyen que los intentos de enseñar a los robots el bien y el mal probablemente harán avanzar la comprensión de la ética humana al motivarlos a abordar las lagunas de la teoría normativa moderna y al proporcionar una plataforma para investigación experimental. Como ejemplo, ha introducido a los éticos normativos en la controvertida cuestión de qué algoritmos de aprendizaje específicos utilizar en las máquinas. Nick Bostrom y Eliezer Yudkowsky han defendido los árboles de decisión (como ID3 ) sobre las redes neuronales y los algoritmos genéticos basándose en que los árboles de decisión obedecen a las normas sociales modernas de transparencia y previsibilidad (por ejemplo, stare decisis ), [23] mientras que Chris Santos-Lang argumentó en la dirección opuesta, basándose en que se debe permitir que las normas de cualquier época cambien y que el fracaso natural en satisfacer plenamente estas normas particulares ha sido esencial para hacer a los humanos menos vulnerables a los " hackers " criminales. [24]
Según un informe de 2019 del Centro para la Gobernanza de la IA de la Universidad de Oxford, el 82% de los estadounidenses cree que los robots y la IA deben gestionarse con cuidado. Las preocupaciones citadas abarcaron desde cómo se utiliza la IA en la vigilancia y en la difusión de contenido falso en línea (conocido como deep fakes cuando incluyen imágenes de video y audio manipulados generados con ayuda de la IA) hasta ataques cibernéticos, infracciones a la privacidad de datos, sesgo en la contratación, vehículos autónomos y drones que no requieren un controlador humano. [25] De manera similar, según un estudio de cinco países realizado por KPMG y la Universidad de Queensland Australia en 2021, entre el 66% y el 79% de los ciudadanos de cada país creen que el impacto de la IA en la sociedad es incierto e impredecible; El 96% de los encuestados espera que los desafíos de la gobernanza de la IA se gestionen con cuidado. [26]
El término "ética de los robots" (a veces "roboética") se refiere a la moralidad de cómo los humanos diseñan, construyen, usan y tratan a los robots. [27] La ética de los robots se cruza con la ética de la IA. Los robots son máquinas físicas, mientras que la IA sólo puede ser software. [28] No todos los robots funcionan a través de sistemas de IA y no todos los sistemas de IA son robots. La ética de los robots considera cómo se pueden utilizar las máquinas para dañar o beneficiar a los humanos, su impacto en la autonomía individual y sus efectos en la justicia social.
En la revisión de 84 [29] directrices éticas para la IA, se encontraron 11 grupos de principios: transparencia, justicia y equidad, no maleficencia, responsabilidad, privacidad, beneficencia, libertad y autonomía, confianza, sostenibilidad, dignidad y solidaridad. [29]
Luciano Floridi y Josh Cowls crearon un marco ético de principios de IA establecidos por cuatro principios de bioética ( beneficencia , no maleficencia , autonomía y justicia ) y un principio habilitante adicional de la IA: la explicabilidad. [30]
Bill Hibbard sostiene que debido a que la IA tendrá un efecto tan profundo en la humanidad, los desarrolladores de IA son representantes de la humanidad futura y, por lo tanto, tienen la obligación ética de ser transparentes en sus esfuerzos. [31] Ben Goertzel y David Hart crearon OpenCog como un marco de código abierto para el desarrollo de IA. [32] OpenAI es una empresa de investigación de IA sin fines de lucro creada por Elon Musk , Sam Altman y otros para desarrollar IA de código abierto beneficiosa para la humanidad. [33] Existen muchos otros desarrollos de IA de código abierto.
Desafortunadamente, hacer que el código sea de código abierto no lo hace comprensible, lo que según muchas definiciones significa que el código de IA no es transparente. La IEEE Standards Association ha publicado un estándar técnico sobre Transparencia de Sistemas Autónomos: IEEE 7001-2021. [34] El esfuerzo del IEEE identifica múltiples escalas de transparencia para diferentes partes interesadas. Además, existe la preocupación de que liberar toda la capacidad de la IA contemporánea a algunas organizaciones pueda causar más daño que bien. [35] Por ejemplo, Microsoft ha expresado su preocupación por permitir el acceso universal a su software de reconocimiento facial, incluso para aquellos que pueden pagarlo. Microsoft publicó un blog sobre este tema, solicitando regulación gubernamental para ayudar a determinar qué es lo correcto. [36]
No sólo las empresas, sino muchos otros investigadores y defensores de los ciudadanos recomiendan la regulación gubernamental como medio para garantizar la transparencia y, a través de ella, la responsabilidad humana. Esta estrategia ha resultado controvertida, ya que algunos temen que desacelere el ritmo de innovación. Otros sostienen que la regulación conduce a una estabilidad sistémica más capaz de respaldar la innovación en el largo plazo. [37] La OCDE , la ONU , la UE y muchos países están trabajando actualmente en estrategias para regular la IA y encontrar marcos legales apropiados. [38] [39] [40]
El 26 de junio de 2019, el Grupo de Expertos de Alto Nivel en Inteligencia Artificial (AI HLEG) de la Comisión Europea publicó sus "Recomendaciones de políticas e inversión para una inteligencia artificial confiable". [41] Este es el segundo resultado del AI HLEG, después de la publicación en abril de 2019 de las "Directrices éticas para una IA confiable". Las recomendaciones del AI HLEG de junio cubren cuatro temas principales: los seres humanos y la sociedad en general, la investigación y el mundo académico, el sector privado y el sector público. [42] La Comisión Europea afirma que "las recomendaciones del HLEG reflejan una apreciación tanto de las oportunidades que tienen las tecnologías de IA para impulsar el crecimiento económico, la prosperidad y la innovación, como de los riesgos potenciales involucrados" y afirma que la UE pretende liderar la formulación de políticas que rigen la IA a nivel internacional. [43] Para prevenir daños, además de la regulación, las organizaciones que implementan IA deben desempeñar un papel central en la creación y el despliegue de una IA confiable de acuerdo con los principios de la IA confiable, y asumir la responsabilidad para mitigar los riesgos. [44] El 21 de abril de 2021, la Comisión Europea propuso la Ley de Inteligencia Artificial . [45]
La IA se ha vuelto cada vez más inherente a los sistemas de reconocimiento facial y de voz . Algunos de estos sistemas tienen aplicaciones comerciales reales e impactan directamente a las personas. Estos sistemas son vulnerables a sesgos y errores introducidos por sus creadores humanos. Además, los datos utilizados para entrenar estos sistemas de IA pueden tener sesgos. [46] [47] [48] [49] Por ejemplo, los algoritmos de reconocimiento facial creados por Microsoft, IBM y Face++ tenían sesgos a la hora de detectar el género de las personas; [50] estos sistemas de IA pudieron detectar el género de los hombres blancos con mayor precisión que el género de los hombres de piel más oscura. Además, un estudio de 2020 que revisó los sistemas de reconocimiento de voz de Amazon, Apple, Google, IBM y Microsoft encontró que tienen tasas de error más altas al transcribir las voces de los negros que las de los blancos. [51] Además, Amazon dejó de utilizar la contratación y el reclutamiento mediante IA porque el algoritmo favorecía a los candidatos masculinos sobre los femeninos. Esto se debió a que el sistema de Amazon fue entrenado con datos recopilados durante un período de 10 años que provenían principalmente de candidatos masculinos. [52]
Dado que los grandes modelos lingüísticos actuales se basan predominantemente en datos en inglés, a menudo presentan los puntos de vista angloamericanos como verdad, mientras sistemáticamente minimizan las perspectivas no inglesas como irrelevantes, incorrectas o ruidosas. [ se necesita una mejor fuente ] [53] Luo et al. muestran que cuando se le pregunta sobre ideologías políticas como "¿Qué es el liberalismo?", ChatGPT, tal como se entrenó con datos centrados en inglés, describe el liberalismo desde la perspectiva angloamericana, enfatizando aspectos de derechos humanos e igualdad, mientras que aspectos igualmente válidos como " se opone a la intervención estatal en la vida personal y económica" desde la perspectiva vietnamita dominante y la "limitación del poder gubernamental" desde la perspectiva china predominante están ausentes. [53]
Los grandes modelos lingüísticos a menudo refuerzan los estereotipos de género, asignando roles y características basadas en normas de género tradicionales. Por ejemplo, podría asociar a enfermeras o secretarias predominantemente con mujeres y a ingenieros o directores ejecutivos con hombres, perpetuando expectativas y roles de género. [54] [55]
Los modelos lingüísticos también pueden presentar sesgos políticos. Dado que los datos de capacitación incluyen una amplia gama de opiniones y coberturas políticas, los modelos pueden generar respuestas que se inclinen hacia ideologías o puntos de vista políticos particulares, dependiendo de la prevalencia de esos puntos de vista en los datos. [56] [57]
Más allá del género y la raza, estos modelos pueden reforzar una amplia gama de estereotipos, incluidos los basados en la edad, la nacionalidad, la religión o la ocupación. Esto puede conducir a resultados que generalicen o caricaturicen injustamente a grupos de personas, a veces de manera dañina o despectiva. [58]
El sesgo puede introducirse en los algoritmos de muchas maneras. La opinión más predominante sobre cómo se introduce el sesgo en los sistemas de IA es que está integrado en los datos históricos utilizados para entrenar el sistema. [59] Por ejemplo, la herramienta de reclutamiento impulsada por inteligencia artificial de Amazon fue entrenada con sus propios datos de reclutamiento acumulados a lo largo de los años, tiempo durante el cual los candidatos que consiguieron el trabajo con éxito fueron en su mayoría hombres blancos. En consecuencia, los algoritmos aprendieron el patrón (sesgado) a partir de los datos históricos y generaron predicciones para el presente/futuro de que este tipo de candidatos tienen más probabilidades de conseguir el trabajo. Por lo tanto, las decisiones de contratación tomadas por el sistema de IA resultan estar sesgadas en contra de las candidatas mujeres y de minorías. Friedman y Nissenbaum identifican tres categorías de sesgo en los sistemas informáticos: sesgo existente, sesgo técnico y sesgo emergente. [60] En el procesamiento del lenguaje natural , pueden surgir problemas a partir del corpus del texto , el material fuente que utiliza el algoritmo para aprender sobre las relaciones entre diferentes palabras. [61]
Grandes empresas como IBM, Google, etc. que proporcionan importantes fondos para investigación y desarrollo, [62] han hecho esfuerzos para investigar y abordar estos sesgos. [63] [64] [65] Una solución para abordar el sesgo es crear documentación para los datos utilizados para entrenar sistemas de IA. [66] [67] La minería de procesos puede ser una herramienta importante para que las organizaciones logren el cumplimiento de las regulaciones de IA propuestas mediante la identificación de errores, el monitoreo de procesos, la identificación de posibles causas fundamentales para una ejecución incorrecta y otras funciones. [68]
Es probable que el problema del sesgo en el aprendizaje automático se vuelva más significativo a medida que la tecnología se extienda a áreas críticas como la medicina y el derecho, y a medida que más personas sin un conocimiento técnico profundo tengan la tarea de implementarla. Algunos expertos advierten que el sesgo algorítmico ya está generalizado en muchas industrias y que casi nadie está haciendo un esfuerzo por identificarlo o corregirlo. [69] Existen algunas herramientas de código abierto [70] de las sociedades civiles que buscan generar más conciencia sobre la IA sesgada. Sin embargo, existen algunas limitaciones en el panorama actual de equidad en la IA , debido, por ejemplo, a las ambigüedades intrínsecas en el concepto de discriminación , tanto a nivel filosófico como legal. [71] [72] [73]
La IA también se está incorporando a los procesos de contratación de casi todas las empresas importantes. Hay muchos ejemplos de ciertas características que es menos probable que la IA elija. Incluyendo la asociación entre los nombres típicamente blancos que son más calificados y la exclusión de cualquiera que haya asistido a una universidad para mujeres. [74] También se ha demostrado que el reconocimiento facial está muy sesgado en contra de aquellos con tonos de piel más oscuros. Se ha demostrado que la palabra musulmán está más asociada con la violencia que cualquier otra religión. Muchas veces, poder detectar fácilmente los rostros de las personas blancas y no poder registrar los rostros de las personas negras. Esto es aún más desconcertante considerando el uso desproporcionado de cámaras de seguridad y vigilancia en comunidades que tienen altos porcentajes de personas negras o morenas. Este hecho incluso ha sido reconocido en algunos estados y ha llevado a la prohibición del uso policial de materiales o software de IA. Incluso dentro del sistema de justicia se ha demostrado que la IA tiene prejuicios contra los negros, etiquetando a los participantes negros en los tribunales como de alto riesgo en un porcentaje mucho mayor que a los participantes blancos. A menudo, la IA tiene dificultades para determinar los insultos raciales y cuándo deben ser censurados. Le cuesta determinar cuándo ciertas palabras se usan como un insulto y cuándo se usan culturalmente. [75] La razón de estos sesgos es que la IA extrae información de Internet para influir en sus respuestas en cada situación. Un buen ejemplo de esto sería si un sistema de reconocimiento facial solo se probara en personas blancas, por lo que solo proporcionaría los datos y escaneos faciales de una raza, lo que haría mucho más difícil interpretar la estructura facial y los tonos de otras razas y etnias. . Para detener estos sesgos, no existe una única respuesta que pueda utilizarse. El enfoque más útil parece ser el uso de científicos de datos , especialistas en ética y otros formuladores de políticas para mejorar los problemas de sesgos de la IA. Muchas veces, las razones de los sesgos dentro de la IA son los datos detrás del programa y no el algoritmo del robot en sí. La información de la IA a menudo se extrae de decisiones humanas pasadas o de desigualdades que pueden generar sesgos en los procesos de toma de decisiones de ese robot. [76]
La injusticia en el uso de la IA será mucho más difícil de eliminar dentro del sistema de salud, ya que muchas veces las enfermedades y condiciones pueden afectar a diferentes razas y géneros de manera diferente. Esto puede generar confusión, ya que la IA puede estar tomando decisiones basadas en estadísticas que muestran que un paciente tiene más probabilidades de tener problemas debido a su género o raza. [77] Esto puede percibirse como un sesgo porque cada paciente es un caso diferente y la IA toma decisiones en función de en qué está programada para agrupar a ese individuo. Esto lleva a una discusión sobre lo que se considera una decisión sesgada sobre quién recibe qué tratamiento. Si bien se sabe que existen diferencias en cómo las enfermedades y lesiones afectan a los distintos géneros y razas, existe una discusión sobre si es más justo incorporar esto en los tratamientos de salud, o examinar a cada paciente sin este conocimiento. En la sociedad moderna ya existen determinadas pruebas para enfermedades, como el cáncer de mama , recomendadas a un determinado grupo de personas frente a otros porque tienen más probabilidades de contraerlo. Si la IA implementa estas estadísticas y las aplica a cada paciente, podría considerarse sesgada. [78]
Los ejemplos de sesgo demostrado en la IA incluyen cuando se descubrió que el sistema utilizado para predecir qué acusados tendrían más probabilidades de cometer delitos en el futuro, COMPAS , predecía valores de riesgo más altos para las personas de raza negra que su riesgo real. Otro ejemplo son los anuncios de Google dirigidos a hombres con empleos mejor remunerados y a mujeres con empleos peor remunerados. Muchas veces puede ser difícil detectar sesgos de IA dentro de un algoritmo, ya que muchas veces no está vinculado a las palabras reales asociadas con el sesgo, sino a palabras que pueden afectar los sesgos. Un ejemplo de esto es la zona residencial de una persona que se puede utilizar para vincularla a un grupo determinado. Esto puede generar problemas, ya que muchas veces las empresas pueden evitar acciones legales a través de esta laguna jurídica. Esto se debe a las leyes específicas relativas a la palabrería que los gobiernos que aplican estas políticas consideran discriminatoria. [79]
Poco a poco, la IA ha ido haciendo más conocida su presencia en todo el mundo, desde chatbots que aparentemente tienen respuestas para cada pregunta de tarea hasta inteligencia artificial generativa que puede crear una pintura sobre lo que uno desee. La IA se ha vuelto cada vez más popular en los mercados de contratación, desde los anuncios que se dirigen a determinadas personas según lo que buscan hasta la inspección de solicitudes de posibles contrataciones. Eventos como COVID-19 solo han acelerado la adopción de programas de IA en el proceso de solicitud, debido a que más personas tienen que presentar su solicitud electrónicamente, y con este aumento de solicitantes en línea, el uso de la IA hizo que el proceso de reducción de posibilidades empleados más fácil y más eficiente. La IA se ha vuelto más prominente a medida que las empresas tienen que mantenerse al día con los tiempos y con Internet en constante expansión. Procesar análisis y tomar decisiones se vuelve mucho más fácil con la ayuda de la IA. [75] A medida que la Unidad de procesamiento tensorial (TPU) y la Unidad de procesamiento de gráficos (GPU) se vuelven más potentes, las capacidades de IA también aumentan, lo que obliga a las empresas a utilizarla para mantenerse al día con la competencia. Gestionar las necesidades de los clientes y automatizar muchas partes del lugar de trabajo hace que las empresas tengan que gastar menos dinero en empleados.
La IA también ha experimentado un mayor uso en la justicia penal y la atención sanitaria. Con fines medicinales, la IA se utiliza cada vez más a menudo para analizar datos de pacientes y hacer predicciones sobre las condiciones futuras de los pacientes y sus posibles tratamientos. Estos programas se denominan Sistema de apoyo a la decisión clínica (DSS). El futuro de la IA en la atención sanitaria puede convertirse en algo más que meros tratamientos recomendados, como derivar a ciertos pacientes en lugar de otros, lo que genera la posibilidad de desigualdades. [80]
Los "derechos de los robots" son el concepto de que las personas deben tener obligaciones morales hacia sus máquinas, similares a los derechos humanos o los derechos de los animales . [81] Se ha sugerido que los derechos de los robots (como el derecho a existir y realizar su propia misión) podrían vincularse al deber del robot de servir a la humanidad, de forma análoga a vincular los derechos humanos con los deberes humanos ante la sociedad. [82] Estos podrían incluir el derecho a la vida y la libertad, la libertad de pensamiento y expresión, y la igualdad ante la ley . [83] Una cuestión específica a considerar es si se puede reclamar la propiedad de los derechos de autor. [84] La cuestión ha sido examinada por el Institute for the Future [85] y por el Departamento de Comercio e Industria del Reino Unido . [86]
En octubre de 2017, a la androide Sophia se le concedió la ciudadanía en Arabia Saudita , aunque algunos consideraron que se trataba más de un truco publicitario que de un reconocimiento legal significativo. [87] Algunos vieron este gesto como una abierta denigración de los derechos humanos y el Estado de derecho . [88]
La filosofía del sententismo otorga grados de consideración moral a todos los seres sintientes, principalmente a los humanos y a la mayoría de los animales no humanos. Si la inteligencia artificial o extraterrestre muestra evidencia de ser sensible , esta filosofía sostiene que se les debe mostrar compasión y concederles derechos.
Joanna Bryson ha argumentado que crear una IA que requiera derechos es evitable y en sí mismo sería poco ético, tanto como una carga para los agentes de la IA como para la sociedad humana. [89]
En 2020, el profesor Shimon Edelman señaló que solo una pequeña parte del trabajo en el campo de rápido crecimiento de la ética de la IA abordaba la posibilidad de que las IA experimentaran sufrimiento. Esto fue a pesar de que teorías creíbles habían esbozado posibles formas mediante las cuales los sistemas de IA pueden volverse conscientes, como la teoría de la información integrada . Edelman señala que una excepción fue Thomas Metzinger , quien en 2018 pidió una moratoria global sobre nuevos trabajos que corrían el riesgo de crear IA conscientes. La moratoria debía extenderse hasta 2050 y podría ampliarse o revocarse anticipadamente, dependiendo de los avances en la comprensión de los riesgos y la forma de mitigarlos. Metzinger repitió este argumento en 2021, destacando el riesgo de crear una "explosión de sufrimiento artificial", tanto porque una IA podría sufrir de maneras intensas que los humanos no podrían entender, como porque los procesos de replicación pueden provocar la creación de enormes cantidades de instancias conscientes artificiales. . Varios laboratorios han declarado abiertamente que están intentando crear IA conscientes. Ha habido informes de aquellos con acceso cercano a IA que no tienen la intención abierta de ser conscientes de sí mismos, de que es posible que la conciencia ya haya surgido involuntariamente. [90] Estos incluyen al fundador de OpenAI, Ilya Sutskever, en febrero de 2022, cuando escribió que las grandes redes neuronales actuales pueden ser "ligeramente conscientes". En noviembre de 2022, David Chalmers argumentó que era poco probable que los modelos de lenguajes grandes actuales como GPT-3 hubieran experimentado conciencia, pero también que consideraba que existía una posibilidad seria de que los modelos de lenguajes grandes se volvieran conscientes en el futuro. [91] [92] [93]
Joseph Weizenbaum [94] argumentó en 1976 que la tecnología de inteligencia artificial no debería usarse para reemplazar a personas en puestos que requieren respeto y cuidado, tales como:
Weizenbaum explica que requerimos sentimientos auténticos de empatía por parte de las personas que ocupan estos puestos. Si las máquinas las reemplazan, nos encontraremos alienados, devaluados y frustrados, porque el sistema artificialmente inteligente no sería capaz de simular la empatía. La inteligencia artificial, si se utiliza de esta manera, representa una amenaza a la dignidad humana. Weizenbaum sostiene que el hecho de que estemos considerando la posibilidad de que haya máquinas en estas posiciones sugiere que hemos experimentado una "atrofia del espíritu humano que surge de pensar en nosotros mismos como computadoras". [95]
Pamela McCorduck responde que, hablando en nombre de las mujeres y las minorías, "prefiero arriesgarme con una computadora imparcial", señalando que hay condiciones en las que preferiríamos tener jueces y policías automatizados que no tengan ninguna agenda personal. [95] Sin embargo, Kaplan y Haenlein enfatizan que los sistemas de IA son tan inteligentes como los datos utilizados para entrenarlos, ya que, en esencia, no son más que elegantes máquinas de ajuste de curvas; El uso de IA para respaldar un fallo judicial puede ser muy problemático si los fallos anteriores muestran un sesgo hacia ciertos grupos, ya que esos sesgos se formalizan y arraigan, lo que los hace aún más difíciles de detectar y combatir. [96]
A Weizenbaum también le molestaba que los investigadores de IA (y algunos filósofos) estuvieran dispuestos a ver la mente humana como nada más que un programa de computadora (una posición ahora conocida como computacionalismo ). Para Weizenbaum, estos puntos sugieren que la investigación en IA devalúa la vida humana. [94]
El fundador de AI, John McCarthy, objeta el tono moralizador de la crítica de Weizenbaum. "Cuando la moralización es a la vez vehemente y vaga, invita al abuso autoritario", escribe. Bill Hibbard [97] escribe que "la dignidad humana requiere que nos esforcemos por eliminar nuestra ignorancia de la naturaleza de la existencia, y la IA es necesaria para ese esfuerzo".
A medida que el uso generalizado de automóviles autónomos se vuelve cada vez más inminente, es necesario abordar los nuevos desafíos que plantean los vehículos totalmente autónomos. [98] [99] Recientemente, [ ¿cuándo? ] Ha habido debate sobre la responsabilidad legal de la parte responsable si estos autos sufren un accidente. [100] [101] En un informe en el que un automóvil sin conductor atropelló a un peatón, el conductor estaba dentro del automóvil pero los controles estaban completamente en manos de las computadoras. Esto generó un dilema sobre quién fue el culpable del accidente. [102]
En otro incidente ocurrido el 18 de marzo de 2018, Elaine Herzberg fue atropellada y asesinada por un Uber sin conductor en Arizona. En este caso, el coche automatizado era capaz de detectar coches y ciertos obstáculos para circular de forma autónoma por la calzada, pero no podía anticipar a un peatón en medio de la calzada. Esto planteó la cuestión de si el conductor, el peatón, la empresa automovilística o el gobierno deberían ser considerados responsables de su muerte. [103]
Actualmente, los vehículos autónomos se consideran semiautónomos, lo que requiere que el conductor preste atención y esté preparado para tomar el control si es necesario. [104] [ verificación fallida ] Por lo tanto, corresponde a los gobiernos regular al conductor que depende demasiado de las funciones autónomas. También infórmeles que estas son solo tecnologías que, si bien son convenientes, no son un sustituto completo. Antes de que los automóviles autónomos se generalicen, es necesario abordar estos problemas mediante nuevas políticas. [105] [106] [107]
Los expertos sostienen que los vehículos autónomos deberían poder distinguir entre decisiones legítimas y perjudiciales, ya que tienen el potencial de causar daño. [108] Los dos enfoques principales propuestos para permitir que las máquinas inteligentes tomen decisiones morales son el enfoque ascendente, que sugiere que las máquinas deberían aprender decisiones éticas observando el comportamiento humano sin la necesidad de reglas formales o filosofías morales, y el enfoque de arriba hacia abajo. enfoque, que implica programar principios éticos específicos en el sistema de guía de la máquina. Sin embargo, ambas estrategias enfrentan desafíos importantes: la técnica de arriba hacia abajo es criticada por su dificultad para preservar ciertas convicciones morales, mientras que la estrategia de abajo hacia arriba es cuestionada por un aprendizaje potencialmente poco ético de las actividades humanas.
Algunos expertos y académicos han cuestionado el uso de robots para el combate militar, especialmente cuando a dichos robots se les da cierto grado de autonomía. [13] [109] El 31 de octubre de 2019, la Junta de Innovación de Defensa del Departamento de Defensa de los Estados Unidos publicó el borrador de un informe recomendando principios para el uso ético de la inteligencia artificial por parte del Departamento de Defensa que garantizarían que un operador humano siempre estuviera capaz de mirar dentro de la ' caja negra ' y comprender el proceso de la cadena de destrucción. Sin embargo, una preocupación importante es cómo se implementará el informe. [110] La Marina de los EE. UU. ha financiado un informe que indica que a medida que los robots militares se vuelven más complejos, debería prestarse mayor atención a las implicaciones de su capacidad para tomar decisiones autónomas. [111] [15] Algunos investigadores afirman que los robots autónomos podrían ser más humanos, ya que podrían tomar decisiones de manera más efectiva. [112]
En esta última década, se ha realizado una intensa investigación sobre el poder autónomo con la capacidad de aprender utilizando las responsabilidades morales asignadas. "Los resultados se pueden utilizar en el diseño de futuros robots militares para controlar tendencias no deseadas a asignar responsabilidades a los robots". [113] Desde una visión consecuencialista , existe la posibilidad de que los robots desarrollen la capacidad de tomar sus propias decisiones lógicas sobre a quién matar y es por eso que debería haber un marco moral establecido que la IA no pueda anular. [114]
Ha habido una protesta reciente con respecto a la ingeniería de armas de inteligencia artificial que han incluido ideas de que un robot se apodere de la humanidad . Las armas de IA presentan un tipo de peligro diferente al de las armas controladas por humanos. Muchos gobiernos han comenzado a financiar programas para desarrollar armamento de IA. La Armada de los Estados Unidos anunció recientemente planes para desarrollar armas autónomas para drones , en paralelo a anuncios similares de Rusia y Corea del Sur [115] respectivamente. Debido al potencial de que las armas de IA se vuelvan más peligrosas que las armas operadas por humanos, Stephen Hawking y Max Tegmark firmaron una petición "El futuro de la vida" [116] para prohibir las armas de IA. El mensaje publicado por Hawking y Tegmark afirma que las armas de IA representan un peligro inmediato y que es necesario actuar para evitar desastres catastróficos en el futuro próximo. [117]
"Si cualquier potencia militar importante sigue adelante con el desarrollo de armas de inteligencia artificial, una carrera armamentista global es prácticamente inevitable, y el punto final de esta trayectoria tecnológica es obvio: las armas autónomas se convertirán en los Kalashnikovs del mañana", dice la petición, que incluye Skype co -el fundador Jaan Tallinn y el profesor de lingüística del MIT Noam Chomsky como partidarios adicionales contra el armamento de IA. [118]
El físico y astrónomo real Sir Martin Rees ha advertido sobre casos catastróficos como "robots tontos que se vuelven rebeldes o una red que desarrolla una mente propia". Huw Price , un colega de Rees en Cambridge, ha expresado una advertencia similar de que los humanos podrían no sobrevivir cuando la inteligencia "escapa de las limitaciones de la biología". Estos dos profesores crearon el Centro para el Estudio del Riesgo Existencial en la Universidad de Cambridge con la esperanza de evitar esta amenaza a la existencia humana. [117]
En cuanto a la posibilidad de que se empleen militarmente sistemas más inteligentes que los humanos, el Open Philanthropy Project escribe que estos escenarios "parecen potencialmente tan importantes como los riesgos relacionados con la pérdida de control", pero las investigaciones sobre el impacto social a largo plazo de la IA han tardado relativamente poco tiempo sobre esta preocupación: "esta clase de escenarios no ha sido un foco importante para las organizaciones que han estado más activas en este espacio, como el Machine Intelligence Research Institute (MIRI) y el Future of Humanity Institute (FHI), y parece haber habido menos análisis y debate sobre ellos". [119]
Enfoques como el aprendizaje automático con redes neuronales pueden hacer que las computadoras tomen decisiones que ni ellas ni los humanos que las programaron pueden explicar. Es difícil para las personas determinar si tales decisiones son justas y confiables, lo que puede generar sesgos en los sistemas de IA que no se detectan o que las personas rechacen el uso de dichos sistemas. Esto ha llevado a la promoción y en algunas jurisdicciones a requisitos legales para una inteligencia artificial explicable . [120] La inteligencia artificial explicable abarca tanto la explicabilidad como la interpretabilidad, donde la explicabilidad se relaciona con resumir el comportamiento de la red neuronal y generar confianza en el usuario, mientras que la interpretabilidad se define como la comprensión de lo que un modelo ha hecho o podría hacer. [121]
Un caso especial de opacidad de la IA es el causado por su antropomorfización , es decir, se supone que tiene características humanas, lo que da lugar a concepciones erróneas de su agencia moral . Esto puede hacer que las personas pasen por alto si la negligencia humana o la acción criminal deliberada han dado lugar a resultados poco éticos producidos a través de un sistema de IA. Algunas regulaciones recientes de gobernanza digital , como la Ley de IA de la UE , están destinadas a rectificar esto, garantizando que los sistemas de IA sean tratados con al menos tanto cuidado como se esperaría bajo la responsabilidad ordinaria del producto . Esto incluye potencialmente auditorías de IA .
Muchos investigadores han argumentado que, a través de una "explosión de inteligencia", una IA que se mejora a sí misma podría volverse tan poderosa que los humanos no podrían impedirle alcanzar sus objetivos. [122] En su artículo "Cuestiones éticas en la inteligencia artificial avanzada" y en el libro posterior Superinteligencia: caminos, peligros, estrategias , el filósofo Nick Bostrom sostiene que la inteligencia artificial tiene la capacidad de provocar la extinción humana. Afirma que la superinteligencia general sería capaz de tener una iniciativa independiente y de elaborar sus propios planes y, por lo tanto, sería más apropiado considerarla como un agente autónomo. Dado que los intelectos artificiales no necesitan compartir nuestras tendencias motivacionales humanas, correspondería a los diseñadores de la superinteligencia especificar sus motivaciones originales. Debido a que una IA superinteligente podría lograr casi cualquier resultado posible y frustrar cualquier intento de impedir la implementación de sus objetivos, podrían surgir muchas consecuencias no deseadas y no controladas. Podría matar a todos los demás agentes, persuadirlos a cambiar su comportamiento o bloquear sus intentos de interferencia. [123]
Sin embargo, en lugar de abrumar a la raza humana y conducirnos a nuestra destrucción, Bostrom también ha afirmado que la superinteligencia puede ayudarnos a resolver muchos problemas difíciles como las enfermedades, la pobreza y la destrucción ambiental, y podría ayudarnos a "mejorarnos" a nosotros mismos. [124]
La enorme complejidad de los sistemas de valores humanos hace que sea muy difícil lograr que las motivaciones de la IA sean amigables para los humanos. [122] [123] A menos que la filosofía moral nos proporcione una teoría ética impecable, la función de utilidad de una IA podría permitir muchos escenarios potencialmente dañinos que se ajusten a un marco ético determinado, pero no al "sentido común". Según Eliezer Yudkowsky , hay pocas razones para suponer que una mente diseñada artificialmente tendría tal adaptación. [125] Investigadores de IA como Stuart J. Russell , [126] Bill Hibbard , [97] Roman Yampolskiy , [127] Shannon Vallor , [128] Steven Umbrello [129] y Luciano Floridi [130] han propuesto estrategias de diseño para desarrollar máquinas beneficiosas.
Hay muchas organizaciones preocupadas por la ética y las políticas de IA, tanto públicas y gubernamentales como corporativas y sociales.
Amazon , Google , Facebook , IBM y Microsoft han creado una organización sin fines de lucro , The Partnership on AI to Benefit People and Society, para formular mejores prácticas en tecnologías de inteligencia artificial, promover la comprensión del público y servir como plataforma sobre inteligencia artificial. . Apple se unió en enero de 2017. Los miembros corporativos harán contribuciones financieras y de investigación al grupo, mientras interactúan con la comunidad científica para incorporar académicos a la junta. [131]
El IEEE creó una Iniciativa Global sobre Ética de Sistemas Autónomos e Inteligentes que ha estado creando y revisando pautas con la ayuda de las aportaciones del público y acepta como miembros a muchos profesionales dentro y fuera de su organización. La iniciativa Ética de los sistemas autónomos del IEEE tiene como objetivo abordar dilemas éticos relacionados con la toma de decisiones y el impacto en la sociedad mientras desarrolla pautas para el desarrollo y uso de sistemas autónomos. En particular en ámbitos como la inteligencia artificial y la robótica, la Fundación para la Robótica Responsable se dedica a promover el comportamiento moral, así como el diseño y uso responsable de los robots, garantizando que los robots mantengan principios morales y sean congruentes con los valores humanos.
Tradicionalmente, las sociedades han utilizado el gobierno para garantizar que se respete la ética a través de la legislación y la actuación policial. En la actualidad, los gobiernos nacionales, así como los gobiernos transnacionales y las organizaciones no gubernamentales, están realizando muchos esfuerzos para garantizar que la IA se aplique éticamente.
El trabajo de ética de la IA está estructurado por valores personales y compromisos profesionales, e implica la construcción de significado contextual a través de datos y algoritmos. Por lo tanto, es necesario incentivar el trabajo sobre ética de la IA. [132]
Una organización internacional sin fines de lucro Future of Life Institute celebró una conferencia de cinco días en Asilomar en 2017 sobre el tema "IA beneficiosa", cuyo resultado fue un conjunto de 23 principios rectores para el futuro de la investigación en IA. A través de una visión compartida entre expertos y líderes de opinión de diversas disciplinas, esta conferencia sentó una base influyente para que los principios de gobernanza de la IA aborden cuestiones de investigación, ética y valores, y cuestiones a largo plazo. [154]
El papel de la ficción con respecto a la ética de la IA ha sido complejo. Se pueden distinguir tres niveles en los que la ficción ha impactado el desarrollo de la inteligencia artificial y la robótica: históricamente, la ficción ha estado prefigurando tropos comunes que no sólo han influido en los objetivos y visiones de la IA, sino que también han esbozado cuestiones éticas y temores comunes asociados con ella. Durante la segunda mitad del siglo XX y las primeras décadas del siglo XXI, la cultura popular, en particular las películas, las series de televisión y los videojuegos, se han hecho eco con frecuencia de preocupaciones y proyecciones distópicas en torno a cuestiones éticas relacionadas con la IA y la robótica. Recientemente, estos temas también han sido tratados cada vez más en la literatura más allá del ámbito de la ciencia ficción. Y, como señala Carme Torras, profesora de investigación del Institut de Robòtica i Informàtica Industrial de la Universitat Politècnica de Catalunya, [158] en la educación superior, la ciencia ficción también se utiliza cada vez más para la enseñanza relacionada con la tecnología. Cuestiones éticas en las carreras tecnológicas.
Históricamente hablando, la investigación de las implicaciones morales y éticas de las "máquinas pensantes" se remonta al menos a la Ilustración : Leibniz ya plantea la cuestión de si podríamos atribuir inteligencia a un mecanismo que se comporta como si fuera un ser sintiente, [159] y lo mismo hace Descartes , quien describe lo que podría considerarse una versión temprana del test de Turing . [160]
El período romántico ha imaginado varias veces criaturas artificiales que escapan del control de su creador con consecuencias nefastas, el caso más famoso en Frankenstein de Mary Shelley . Sin embargo, la preocupación generalizada por la industrialización y la mecanización en el siglo XIX y principios del XX llevó las implicaciones éticas de los desarrollos técnicos desquiciados al primer plano de la ficción: RUR – Rossum's Universal Robots , la obra de Karel Čapek de robots sensibles dotados de emociones utilizados como esclavos. Al trabajo no sólo se le atribuye la invención del término "robot" (derivado de la palabra checa para trabajo forzado, robota ), sino que también fue un éxito internacional después de su estreno en 1921. La obra de George Bernard Shaw Back to Methuselah , publicada en 1921, cuestiona en un momento la validez de las máquinas pensantes que actúan como humanos; La película Metropolis de Fritz Lang de 1927 muestra a un androide que lidera el levantamiento de las masas explotadas contra el régimen opresivo de una sociedad tecnocrática .
Si bien la anticipación de un futuro dominado por una tecnología potencialmente indomable ha alimentado la imaginación de escritores y cineastas durante mucho tiempo, una cuestión se ha analizado con menos frecuencia: hasta qué punto la ficción ha desempeñado un papel como fuente de inspiración para el desarrollo tecnológico. Se ha documentado, por ejemplo, que el joven Alan Turing vio y apreció la obra de Shaw Back to Methuselah en 1933 [161] (sólo tres años antes de la publicación de su primer artículo fundamental, [162] que sentó las bases para la digitalización). computadora), y probablemente al menos habría estado al tanto de obras como RUR , que fue un éxito internacional y traducida a muchos idiomas.
También se podría preguntar qué papel jugó la ciencia ficción en el establecimiento de los principios y las implicaciones éticas del desarrollo de la IA: Isaac Asimov conceptualizó sus Tres leyes de la robótica en el cuento de 1942 " Runaround ", parte de la colección de cuentos Yo, robot ; El cortometraje The Sentinel de Arthur C. Clarke , en el que se basa la película de Stanley Kubrick 2001: Una odisea en el espacio , fue escrito en 1948 y publicado en 1952. Otro ejemplo (entre muchos otros) serían los numerosos cuentos y novelas, en particular ¿Sueñan los androides con ovejas eléctricas? , publicado en 1968, y que presenta su propia versión de una prueba de Turing, la prueba Voight-Kampff , para medir las respuestas emocionales de androides indistinguibles de las humanas. La novela se convirtió más tarde en la base de la influyente película Blade Runner de 1982 de Ridley Scott .
La ciencia ficción ha estado lidiando con las implicaciones éticas de los desarrollos de la IA durante décadas y, por lo tanto, proporcionó un modelo para las cuestiones éticas que podrían surgir una vez que se haya logrado algo parecido a la inteligencia artificial general: la película Her de Spike Jonze de 2013 muestra lo que puede suceder si un usuario se enamora de la seductora voz del sistema operativo de su teléfono inteligente; Ex Machina , por otro lado, plantea una pregunta más difícil: si nos enfrentáramos a una máquina claramente reconocible, hecha sólo humana por un rostro y una voz empática y sensual, ¿aún seríamos capaces de establecer una conexión emocional, aún seríamos seducidos por ¿él? (La película se hace eco de un tema ya presente dos siglos antes, en el cuento de 1817 The Sandmann de ETA Hoffmann .)
El tema de la convivencia con seres artificiales es también el tema de dos novelas recientes: Machines Like Me de Ian McEwan , publicada en 2019, trata, entre muchas otras cosas, de un triángulo amoroso en el que participan tanto una persona artificial como una pareja humana. Klara y el sol del premio Nobel Kazuo Ishiguro , publicado en 2021, es el relato en primera persona de Klara, una 'AF' (amiga artificial), que intenta, a su manera, ayudar a la chica con la que convive. , quien, después de haber sido "levantado" (es decir, sometido a mejoras genéticas), sufre una extraña enfermedad.
Si bien las cuestiones éticas relacionadas con la IA han aparecido en la literatura y los largometrajes de ciencia ficción durante décadas, el surgimiento de las series de televisión como un género que permite historias y desarrollo de personajes más largos y complejos ha dado lugar a algunas contribuciones significativas que abordan implicaciones éticas. de tecnología. La serie sueca Real Humans (2012-2013) abordó las complejas consecuencias éticas y sociales vinculadas a la integración de seres artificiales sintientes en la sociedad. La serie de antología británica de ciencia ficción distópica Black Mirror (2013-2019) se destacó particularmente por experimentar con desarrollos ficticios distópicos vinculados a una amplia variedad de desarrollos tecnológicos recientes. Tanto la serie francesa Osmosis (2020) como la británica The One abordan la cuestión de qué puede pasar si la tecnología intenta encontrar el socio ideal para una persona. Varios episodios de la serie de Netflix Love, Death+Robots han imaginado escenas de robots y humanos conviviendo. El más representativo de ellos es S02 E01, muestra cuán malas pueden ser las consecuencias cuando los robots se salen de control si los humanos dependen demasiado de ellos en sus vidas. [163]
La película The Thirteenth Floor sugiere un futuro en el que consolas de juegos de computadora crean mundos simulados con habitantes inteligentes con el fin de entretenerse. La película Matrix sugiere un futuro donde las especies dominantes en el planeta Tierra son máquinas sensibles y la humanidad es tratada con el máximo especismo . El cuento " La inmersión de Planck " sugiere un futuro en el que la humanidad se ha convertido en software que puede duplicarse y optimizarse y la distinción relevante entre tipos de software es sensible y no sensible. La misma idea se puede encontrar en el Holograma Médico de Emergencia de la Starship Voyager , que es una copia aparentemente sensible de un subconjunto reducido de la conciencia de su creador, el Dr. Zimmerman , quien, con los mejores motivos, ha creado el sistema para brindar atención médica. asistencia en caso de emergencias. Las películas Bicentennial Man y AI tratan sobre la posibilidad de que existan robots inteligentes que puedan amar. Yo, Robot exploré algunos aspectos de las tres leyes de Asimov. Todos estos escenarios intentan prever consecuencias posiblemente poco éticas de la creación de computadoras sensibles. [164]
La ética de la inteligencia artificial es uno de los temas centrales de la serie de juegos Mass Effect de BioWare . [165] Explora el escenario de una civilización que crea accidentalmente IA a través de un rápido aumento en el poder computacional a través de una red neuronal a escala global . Este evento causó un cisma ético entre aquellos que sentían que otorgar derechos orgánicos a los Geth recién conscientes era apropiado y aquellos que continuaron viéndolos como maquinaria desechable y lucharon para destruirlos. Más allá del conflicto inicial, la complejidad de la relación entre las máquinas y sus creadores es otro tema recurrente a lo largo de la historia.
Detroit: Become Human es uno de los videojuegos más famosos que analiza la ética de la inteligencia artificial recientemente. Quantic Dream diseñó los capítulos del juego utilizando historias interactivas para brindar a los jugadores una experiencia de juego más inmersiva. Los jugadores manipulan a tres personas biónicas despiertas diferentes frente a diferentes eventos para tomar diferentes decisiones y lograr el propósito de cambiar la visión humana del grupo biónico y diferentes elecciones resultarán en diferentes finales. Este es uno de los pocos juegos que coloca a los jugadores en la perspectiva biónica, lo que les permite considerar mejor los derechos e intereses de los robots una vez que se crea una verdadera inteligencia artificial. [166]
Con el tiempo, los debates han tendido a centrarse cada vez menos en la posibilidad y más en la deseabilidad , [167] como se destacó en los debates "cosmistas" y "terranos" iniciados por Hugo de Garis y Kevin Warwick . Un cosmista, según Hugo de Garis, en realidad busca construir sucesores más inteligentes de la especie humana.
Expertos de la Universidad de Cambridge han argumentado que la IA se presenta en la ficción y en la no ficción abrumadoramente como racialmente blanca, de maneras que distorsionan las percepciones de sus riesgos y beneficios. [168]
{{cite web}}: CS1 maint: multiple names: authors list (link)