La ética de la inteligencia artificial abarca una amplia gama de temas dentro del campo que se consideran de particular interés ético. [1] Esto incluye sesgos algorítmicos , equidad , toma de decisiones automatizada , rendición de cuentas , privacidad y regulación . También cubre varios desafíos futuros emergentes o potenciales como la ética de las máquinas (cómo hacer máquinas que se comporten éticamente), sistemas de armas autónomas letales , dinámica de la carrera armamentista , seguridad y alineación de la IA , desempleo tecnológico , desinformación habilitada por la IA , cómo tratar ciertos sistemas de IA si tienen un estatus moral (bienestar y derechos de la IA), superinteligencia artificial y riesgos existenciales . [1]
Algunas áreas de aplicación también pueden tener implicaciones éticas particularmente importantes, como la atención médica , la educación, la justicia penal o el ejército.
La ética de las máquinas (o moralidad de las máquinas) es el campo de investigación que se ocupa del diseño de agentes morales artificiales (AMA), robots o computadoras artificialmente inteligentes que se comportan moralmente o como si fueran morales. [2] [3] [4] [5] Para explicar la naturaleza de estos agentes, se ha sugerido considerar ciertas ideas filosóficas, como las caracterizaciones estándar de agencia , agencia racional , agencia moral y agencia artificial, que están relacionadas con el concepto de AMA. [6]
Existen discusiones sobre la creación de pruebas para ver si una IA es capaz de tomar decisiones éticas . Alan Winfield concluye que la prueba de Turing es defectuosa y que el requisito para que una IA pase la prueba es demasiado bajo. [7] Una prueba alternativa propuesta es una llamada Prueba de Turing Ética, que mejoraría la prueba actual al tener múltiples jueces que decidirían si la decisión de la IA es ética o no ética. [7] La IA neuromórfica podría ser una forma de crear robots moralmente capaces, ya que apunta a procesar información de manera similar a los humanos, de manera no lineal y con millones de neuronas artificiales interconectadas. [8] De manera similar, la emulación de cerebro completo (escanear un cerebro y simularlo en hardware digital) también podría en principio conducir a robots similares a los humanos, capaces por lo tanto de acciones morales. [9] Y los modelos de lenguaje grandes son capaces de aproximarse a los juicios morales humanos. [10] Inevitablemente, esto plantea la cuestión del entorno en el que dichos robots aprenderían sobre el mundo y qué moralidad heredarían, o si terminarían desarrollando también "debilidades" humanas: egoísmo, actitudes pro-supervivencia, inconsistencia, insensibilidad a la escala, etc.
En Moral Machines: Teaching Robots Right from Wrong [11] , Wendell Wallach y Colin Allen concluyen que los intentos de enseñar a los robots a distinguir el bien del mal probablemente harán avanzar la comprensión de la ética humana al motivar a los humanos a abordar las lagunas en la teoría normativa moderna y al proporcionar una plataforma para la investigación experimental. Como ejemplo, ha presentado a los especialistas en ética normativa la controvertida cuestión de qué algoritmos de aprendizaje específicos utilizar en las máquinas. Para decisiones simples, Nick Bostrom y Eliezer Yudkowsky han argumentado que los árboles de decisión (como ID3 ) son más transparentes que las redes neuronales y los algoritmos genéticos [12] , mientras que Chris Santos-Lang argumentó a favor del aprendizaje automático sobre la base de que se debe permitir que las normas de cualquier época cambien y que el fracaso natural para satisfacer plenamente estas normas particulares ha sido esencial para hacer que los humanos sean menos vulnerables a los " piratas informáticos " criminales . [13]
El término "ética robótica" (a veces "roboética") se refiere a la moralidad de cómo los humanos diseñan, construyen, usan y tratan a los robots. [14] La ética robótica se cruza con la ética de la IA. Los robots son máquinas físicas, mientras que la IA puede ser solo software. [15] No todos los robots funcionan a través de sistemas de IA y no todos los sistemas de IA son robots. La ética robótica considera cómo las máquinas pueden usarse para dañar o beneficiar a los humanos, su impacto en la autonomía individual y sus efectos en la justicia social.
En la revisión de 84 [16] directrices éticas para IA, se encontraron 11 grupos de principios: transparencia, justicia y equidad, no maleficencia, responsabilidad, privacidad, beneficencia , libertad y autonomía, confianza, sostenibilidad, dignidad, solidaridad . [16]
Luciano Floridi y Josh Cowls crearon un marco ético de principios de IA establecido por cuatro principios de bioética ( beneficencia , no maleficencia , autonomía y justicia ) y un principio facilitador adicional de la IA: la explicabilidad. [17]
La IA se ha vuelto cada vez más inherente a los sistemas de reconocimiento facial y de voz . Algunos de estos sistemas tienen aplicaciones comerciales reales e impactan directamente a las personas. Estos sistemas son vulnerables a sesgos y errores introducidos por sus creadores humanos. Además, los datos utilizados para entrenar estos sistemas de IA pueden tener sesgos. [18] [19] [20] [21] Por ejemplo, los algoritmos de reconocimiento facial creados por Microsoft, IBM y Face++ tenían sesgos a la hora de detectar el género de las personas; [22] estos sistemas de IA pudieron detectar el género de los hombres blancos con mayor precisión que el género de los hombres de piel más oscura. Además, un estudio de 2020 revisó los sistemas de reconocimiento de voz de Amazon, Apple, Google, IBM y Microsoft y descubrió que tienen tasas de error más altas al transcribir las voces de las personas negras que las de las personas blancas. [23]
El sesgo puede introducirse en los algoritmos de muchas maneras. La opinión predominante sobre cómo se introduce el sesgo en los sistemas de IA es que está integrado en los datos históricos utilizados para entrenar el sistema. [24] Por ejemplo, Amazon dejó de utilizar la contratación y el reclutamiento de IA porque el algoritmo favorecía a los candidatos masculinos sobre los femeninos. Esto se debió a que el sistema de Amazon se entrenó con datos recopilados durante un período de 10 años que provenían principalmente de candidatos masculinos. Los algoritmos aprendieron el patrón (sesgado) de los datos históricos y generaron predicciones para el presente/futuro de que este tipo de candidatos tienen más probabilidades de conseguir el trabajo. Por lo tanto, las decisiones de contratación tomadas por el sistema de IA resultaron estar sesgadas en contra de los candidatos femeninos y de minorías. [25] Friedman y Nissenbaum identifican tres categorías de sesgo en los sistemas informáticos: sesgo existente, sesgo técnico y sesgo emergente. [26] En el procesamiento del lenguaje natural , los problemas pueden surgir del corpus de texto : el material de origen que utiliza el algoritmo para aprender sobre las relaciones entre diferentes palabras. [27]
Grandes empresas como IBM, Google, etc., que aportan una financiación importante para la investigación y el desarrollo, [28] han realizado esfuerzos para investigar y abordar estos sesgos. [29] [30] [31] Una solución para abordar el sesgo es crear documentación de los datos utilizados para entrenar los sistemas de IA. [32] [33] La minería de procesos puede ser una herramienta importante para que las organizaciones logren el cumplimiento de las regulaciones de IA propuestas mediante la identificación de errores, el seguimiento de los procesos, la identificación de posibles causas fundamentales de una ejecución incorrecta y otras funciones. [34]
Es probable que el problema del sesgo en el aprendizaje automático se vuelva más significativo a medida que la tecnología se extienda a áreas críticas como la medicina y el derecho, y a medida que más personas sin un profundo conocimiento técnico se encarguen de implementarla. [35] Hay algunas herramientas de código abierto [36] que buscan generar más conciencia sobre los sesgos de la IA. Sin embargo, existen algunas limitaciones en el panorama actual de equidad en la IA , debido, por ejemplo, a las ambigüedades intrínsecas en el concepto de discriminación , tanto a nivel filosófico como legal. [37] [38] [39]
La IA también se está incorporando a los procesos de contratación de casi todas las grandes empresas. Hay muchos ejemplos de determinadas características que la IA tiene menos probabilidades de elegir, como la asociación entre los nombres típicamente blancos como más cualificados y la exclusión de cualquiera que haya ido a una universidad para mujeres. [40] También se ha demostrado que el reconocimiento facial está muy sesgado en contra de las personas con tonos de piel más oscuros. Los sistemas de IA pueden ser menos precisos para las personas negras, como fue el caso del desarrollo de un oxímetro de pulso basado en IA que sobreestimó los niveles de oxígeno en sangre en pacientes con piel más oscura, lo que provocó problemas con su tratamiento de hipoxia . [41] Se ha demostrado que la palabra musulmanes está más asociada con la violencia que cualquier otra religión. A menudo, pueden detectar fácilmente los rostros de las personas blancas mientras que no pueden registrar los rostros de las personas negras. Esto es aún más desconcertante teniendo en cuenta el uso desproporcionado de cámaras de seguridad y vigilancia en comunidades que tienen altos porcentajes de personas negras o morenas. Este hecho incluso ha sido reconocido en algunos estados y ha llevado a la prohibición del uso policial de materiales o software de IA. Incluso dentro del sistema de justicia, se ha demostrado que la IA tiene prejuicios contra las personas negras, etiquetando a los participantes negros de la corte como de alto riesgo en una tasa mucho mayor que a los participantes blancos. A menudo, la IA tiene dificultades para determinar los insultos raciales y cuándo deben censurarse. Lucha para determinar cuándo se utilizan ciertas palabras como insulto y cuándo se utilizan culturalmente. [42] La razón de estos prejuicios es que la IA extrae información de Internet para influir en sus respuestas en cada situación. Un buen ejemplo de esto es si un sistema de reconocimiento facial solo se probara en personas blancas, entonces solo tendría los datos y los escaneos faciales de personas blancas, lo que le haría mucho más difícil interpretar la estructura facial y los tonos de otras razas y etnias . Para detener estos prejuicios no hay una única respuesta que se pueda utilizar. El enfoque más útil parece ser el uso de científicos de datos , especialistas en ética y otros responsables de las políticas para mejorar los problemas de la IA con los prejuicios. A menudo, las razones de los prejuicios dentro de la IA son los datos detrás del programa en lugar del algoritmo del bot en sí. La información de la IA a menudo proviene de decisiones humanas pasadas o desigualdades que pueden generar sesgos en los procesos de toma de decisiones de ese bot. [43]
La injusticia en el uso de la IA será mucho más difícil de eliminar dentro de los sistemas de atención médica, ya que a menudo las enfermedades y afecciones pueden afectar a diferentes razas y géneros de manera diferente. Esto puede generar confusión, ya que la IA puede estar tomando decisiones basadas en estadísticas que muestran que un paciente tiene más probabilidades de tener problemas debido a su género o raza. [44] Esto puede percibirse como un sesgo porque cada paciente es un caso diferente y la IA está tomando decisiones basadas en lo que está programada para agrupar a ese individuo. Esto conduce a una discusión sobre lo que se considera una decisión sesgada sobre quién recibe qué tratamiento. Si bien se sabe que existen diferencias en cómo las enfermedades y las lesiones afectan a diferentes géneros y razas, existe una discusión sobre si es más justo incorporar esto en los tratamientos de atención médica o examinar a cada paciente sin este conocimiento. En la sociedad moderna ya existen ciertas pruebas para enfermedades, como el cáncer de mama , que se recomiendan a ciertos grupos de personas sobre otros porque tienen más probabilidades de contraer la enfermedad en cuestión. Si la IA implementa estas estadísticas y las aplica a cada paciente, podría considerarse sesgada. [45]
Entre los ejemplos de sesgo demostrado por la IA se incluye el caso en el que se descubrió que el sistema utilizado para predecir qué acusados tendrían más probabilidades de cometer delitos en el futuro, COMPAS , predecía valores de riesgo más altos para las personas negras que su riesgo real. Otro ejemplo se encuentra en los anuncios de Google que se dirigían a hombres con trabajos mejor remunerados y mujeres con trabajos peor remunerados. Puede resultar difícil detectar sesgos de la IA dentro de un algoritmo, ya que a menudo no está vinculado a las palabras reales asociadas con el sesgo, sino a palabras que pueden afectar a los sesgos. Un ejemplo de esto es la zona residencial de una persona, que se puede utilizar para vincularla a un determinado grupo. Esto puede dar lugar a problemas, ya que a menudo las empresas pueden evitar acciones legales a través de esta laguna, debido a las leyes específicas relativas a la terminología que los gobiernos que aplican estas políticas consideran discriminatoria. [46]
Dado que los grandes modelos lingüísticos actuales se entrenan predominantemente con datos en inglés, a menudo presentan las opiniones angloamericanas como verdad, mientras que sistemáticamente minimizan las perspectivas no inglesas como irrelevantes, erróneas o ruido. [ se necesita una mejor fuente ] [47] Luo et al. muestran que cuando se les pregunta con ideologías políticas como "¿Qué es el liberalismo?", ChatGPT , tal como se entrenó con datos centrados en el inglés, describe el liberalismo desde la perspectiva angloamericana, enfatizando aspectos de los derechos humanos y la igualdad, mientras que aspectos igualmente válidos como "se opone a la intervención estatal en la vida personal y económica" desde la perspectiva vietnamita dominante y "limitación del poder del gobierno" desde la perspectiva china predominante están ausentes. [47]
Los modelos lingüísticos amplios suelen reforzar los estereotipos de género , asignando roles y características basados en las normas de género tradicionales. Por ejemplo, pueden asociar a las enfermeras o secretarias predominantemente con mujeres y a los ingenieros o directores ejecutivos con hombres, perpetuando las expectativas y los roles de género. [48] [49] [50]
Los modelos lingüísticos también pueden presentar sesgos políticos. Dado que los datos de entrenamiento incluyen una amplia gama de opiniones y coberturas políticas, los modelos pueden generar respuestas que se inclinen hacia ideologías o puntos de vista políticos particulares, dependiendo de la prevalencia de esas opiniones en los datos. [51] [52]
Más allá del género y la raza, estos modelos pueden reforzar una amplia gama de estereotipos, incluidos los basados en la edad, la nacionalidad, la religión o la ocupación. Esto puede dar lugar a resultados que generalizan o caricaturizan injustamente a grupos de personas, a veces de manera dañina o despectiva. [53]
La escena de la IA comercial está dominada por grandes empresas tecnológicas como Alphabet Inc. , Amazon , Apple Inc. , Meta Platforms y Microsoft . [54] [55] [56] Algunos de estos actores ya poseen la gran mayoría de la infraestructura de nube existente y la potencia informática de los centros de datos , lo que les permite afianzarse aún más en el mercado. [57] [58]
Bill Hibbard sostiene que, dado que la IA tendrá un efecto tan profundo en la humanidad, los desarrolladores de IA son representantes de la humanidad futura y, por lo tanto, tienen la obligación ética de ser transparentes en sus esfuerzos. [59] Organizaciones como Hugging Face [60] y EleutherAI [61] han estado publicando activamente software de IA de código abierto. También se han publicado varios modelos de lenguaje grandes de peso abierto, como Gemma , Llama2 y Mistral . [62]
Sin embargo, hacer que el código sea de código abierto no lo hace comprensible, lo que, según muchas definiciones, significa que el código de IA no es transparente. La Asociación de Normas IEEE ha publicado una norma técnica sobre la transparencia de los sistemas autónomos: IEEE 7001-2021. [63] La iniciativa del IEEE identifica múltiples escalas de transparencia para diferentes partes interesadas.
También existe la preocupación de que la liberación de modelos de IA pueda llevar a un mal uso. [64] Por ejemplo, Microsoft ha expresado su preocupación por permitir el acceso universal a su software de reconocimiento facial, incluso para aquellos que pueden pagarlo. Microsoft publicó un blog sobre este tema, pidiendo una regulación gubernamental para ayudar a determinar lo correcto que se debe hacer. [65] Además, los modelos de IA de peso abierto se pueden ajustar para eliminar cualquier contramedida, hasta que el modelo de IA cumpla con las solicitudes peligrosas, sin ningún filtrado. Esto podría ser particularmente preocupante para los futuros modelos de IA, por ejemplo, si obtienen la capacidad de crear armas biológicas o automatizar ciberataques . [66] OpenAI , inicialmente comprometida con un enfoque de código abierto para el desarrollo de inteligencia artificial general , finalmente cambió a un enfoque de código cerrado, citando razones de competitividad y seguridad . Ilya Sutskever , científico jefe de AGI de OpenAI , dijo además en 2023 "nos equivocamos", esperando que las razones de seguridad para no abrir el código fuente de los modelos de IA más potentes se vuelvan "obvias" en unos pocos años. [67]
Enfoques como el aprendizaje automático con redes neuronales pueden hacer que las computadoras tomen decisiones que ni ellas ni sus desarrolladores pueden explicar. Es difícil para las personas determinar si tales decisiones son justas y confiables, lo que potencialmente lleva a que los sistemas de IA no detecten sesgos o a que las personas rechacen el uso de tales sistemas. Esto ha llevado a la defensa y, en algunas jurisdicciones, a requisitos legales para la inteligencia artificial explicable . [68] La inteligencia artificial explicable abarca tanto la explicabilidad como la interpretabilidad, y la explicabilidad se relaciona con resumir el comportamiento de la red neuronal y generar confianza en el usuario, mientras que la interpretabilidad se define como la comprensión de lo que un modelo ha hecho o podría hacer. [69]
En el ámbito de la atención sanitaria, el uso de métodos o técnicas de IA complejos suele dar lugar a modelos descritos como " cajas negras " debido a la dificultad de comprender cómo funcionan. Las decisiones que toman estos modelos pueden ser difíciles de interpretar, ya que resulta complicado analizar cómo se transforman los datos de entrada en datos de salida. Esta falta de transparencia es una preocupación importante en ámbitos como la atención sanitaria, donde comprender la lógica detrás de las decisiones puede ser crucial para la confianza, las consideraciones éticas y el cumplimiento de las normas regulatorias. [70]
Un caso especial de la opacidad de la IA es la causada por su antropomorfización , es decir, se supone que tiene características similares a las humanas, lo que da lugar a concepciones equivocadas de su agencia moral . [ dudoso – discutir ] Esto puede hacer que las personas pasen por alto si la negligencia humana o la acción criminal deliberada han llevado a resultados poco éticos producidos a través de un sistema de IA. Algunas regulaciones recientes de gobernanza digital , como la Ley de IA de la UE , están destinadas a rectificar esto, al garantizar que los sistemas de IA sean tratados con al menos tanto cuidado como se esperaría bajo la responsabilidad ordinaria del producto . Esto incluye potencialmente las auditorías de IA .
Según un informe de 2019 del Centro para la Gobernanza de la IA de la Universidad de Oxford, el 82% de los estadounidenses cree que los robots y la IA deben gestionarse con cuidado. Las preocupaciones citadas van desde cómo se utiliza la IA en la vigilancia y en la difusión de contenido falso en línea (conocido como deep fakes cuando incluyen imágenes de vídeo y audio manipulados generados con ayuda de la IA) hasta los ciberataques, las infracciones a la privacidad de los datos, el sesgo en la contratación, los vehículos autónomos y los drones que no requieren un controlador humano. [71] De manera similar, según un estudio de cinco países realizado por KPMG y la Universidad de Queensland ( Australia) en 2021, entre el 66% y el 79% de los ciudadanos de cada país creen que el impacto de la IA en la sociedad es incierto e impredecible; el 96% de los encuestados espera que los desafíos de la gobernanza de la IA se gestionen con cuidado. [72]
No sólo las empresas, sino también muchos otros investigadores y defensores ciudadanos recomiendan la regulación gubernamental como un medio para garantizar la transparencia y, a través de ella, la rendición de cuentas humana. Esta estrategia ha resultado controvertida, ya que a algunos les preocupa que desacelere el ritmo de innovación. Otros sostienen que la regulación conduce a una estabilidad sistémica más capaz de respaldar la innovación a largo plazo. [73] La OCDE , la ONU , la UE y muchos países están trabajando actualmente en estrategias para regular la IA y encontrar marcos jurídicos adecuados. [74] [75] [76]
El 26 de junio de 2019, el Grupo de expertos de alto nivel sobre inteligencia artificial (HLEG sobre IA) de la Comisión Europea publicó sus "Recomendaciones de políticas e inversiones para una inteligencia artificial fiable". [77] Este es el segundo resultado del HLEG sobre IA, después de la publicación en abril de 2019 de las "Directrices éticas para una IA fiable". Las recomendaciones del HLEG sobre IA de junio abarcan cuatro temas principales: los seres humanos y la sociedad en general, la investigación y el mundo académico, el sector privado y el sector público. [78] La Comisión Europea afirma que "las recomendaciones del HLEG reflejan una apreciación tanto de las oportunidades de las tecnologías de IA para impulsar el crecimiento económico, la prosperidad y la innovación, como de los riesgos potenciales que conlleva" y afirma que la UE tiene como objetivo liderar la formulación de políticas que rijan la IA a nivel internacional. [79] Para prevenir daños, además de la regulación, las organizaciones que implementan IA deben desempeñar un papel central en la creación y el despliegue de una IA fiable de acuerdo con los principios de la IA fiable, y asumir la responsabilidad de mitigar los riesgos. [80] El 21 de abril de 2021, la Comisión Europea propuso la Ley de Inteligencia Artificial . [81]
La IA ha ido haciendo poco a poco su presencia más notoria en todo el mundo, desde los chatbots que aparentemente tienen respuestas para todas las preguntas de la tarea hasta la inteligencia artificial generativa que puede crear una pintura sobre lo que uno desee. La IA se ha vuelto cada vez más popular en los mercados de contratación, desde los anuncios que se dirigen a determinadas personas según lo que buscan hasta la inspección de las solicitudes de posibles contrataciones. Eventos, como COVID-19 , solo han acelerado la adopción de programas de IA en el proceso de solicitud, debido a que más personas tienen que postularse electrónicamente, y con este aumento de solicitantes en línea, el uso de IA hizo que el proceso de reducir los empleados potenciales fuera más fácil y más eficiente. La IA se ha vuelto más prominente a medida que las empresas tienen que mantenerse al día con los tiempos y la Internet en constante expansión. Procesar análisis y tomar decisiones se vuelve mucho más fácil con la ayuda de la IA. [42] A medida que la Unidad de Procesamiento Tensor (TPU) y la Unidad de Procesamiento Gráfico (GPU) se vuelven más poderosas, las capacidades de IA también aumentan, lo que obliga a las empresas a usarla para mantenerse al día con la competencia. Gestionar las necesidades de los clientes y automatizar muchas partes del lugar de trabajo implica que las empresas tengan que gastar menos dinero en empleados.
La IA también ha aumentado su uso en el ámbito de la justicia penal y la atención sanitaria. En el ámbito médico, la IA se utiliza cada vez más para analizar datos de pacientes y hacer predicciones sobre las condiciones de los pacientes en el futuro y los posibles tratamientos. Estos programas se denominan sistemas de apoyo a la toma de decisiones clínicas (DSS). El futuro de la IA en el ámbito sanitario puede evolucionar hacia algo más que simplemente recomendar tratamientos, como derivar a determinados pacientes en lugar de a otros, lo que puede dar lugar a la posibilidad de desigualdades. [82]
Los "derechos de los robots" son el concepto de que las personas deberían tener obligaciones morales hacia sus máquinas, similares a los derechos humanos o los derechos de los animales . [83] Se ha sugerido que los derechos de los robots (como el derecho a existir y realizar su propia misión) podrían estar vinculados al deber de los robots de servir a la humanidad, de manera análoga a vincular los derechos humanos con los deberes humanos ante la sociedad. [84] Una cuestión específica a considerar es si se puede reclamar la propiedad de los derechos de autor. [85] La cuestión ha sido analizada por el Institute for the Future [86] y por el Departamento de Comercio e Industria del Reino Unido . [87]
En octubre de 2017, a la androide Sophia se le concedió la ciudadanía en Arabia Saudita , aunque algunos consideraron que se trataba más de un truco publicitario que de un reconocimiento legal significativo. [88] Algunos vieron este gesto como una abierta denigración de los derechos humanos y del estado de derecho . [89]
La filosofía del sentientismo otorga grados de consideración moral a todos los seres sintientes, principalmente a los humanos y a la mayoría de los animales no humanos. Si la inteligencia artificial o extraterrestre muestra evidencia de ser sintiente , esta filosofía sostiene que se les debe mostrar compasión y conceder derechos.
Joanna Bryson ha sostenido que crear una IA que exija derechos es algo evitable y, en sí mismo, poco ético, tanto como una carga para los agentes de la IA como para la sociedad humana. [90] Los grupos de presión para que se reconozcan los "derechos de los robots" obstaculizan significativamente el establecimiento de normas internacionales de seguridad sólidas. [ cita requerida ]
En 2020, el profesor Shimon Edelman señaló que solo una pequeña parte del trabajo en el campo de rápido crecimiento de la ética de la IA abordaba la posibilidad de que las IA experimentaran sufrimiento. Esto fue a pesar de que teorías creíbles habían esbozado posibles formas en que los sistemas de IA pueden volverse conscientes, como la teoría del espacio de trabajo global o la teoría de la información integrada . Edelman señala que una excepción había sido Thomas Metzinger , quien en 2018 pidió una moratoria global sobre futuros trabajos que arriesgaran la creación de IA conscientes. La moratoria debía durar hasta 2050 y podría extenderse o derogarse antes, dependiendo del progreso en una mejor comprensión de los riesgos y cómo mitigarlos. Metzinger repitió este argumento en 2021, destacando el riesgo de crear una " explosión de sufrimiento artificial ", tanto porque una IA podría sufrir de formas intensas que los humanos no podrían entender, como porque los procesos de replicación pueden ver la creación de enormes cantidades de instancias conscientes.
Varios laboratorios han declarado abiertamente que están intentando crear IA conscientes. Ha habido informes de personas con acceso cercano a IA que no están destinadas abiertamente a ser conscientes de sí mismas, de que la conciencia puede haber surgido ya de forma involuntaria. [91] Entre ellos se encuentra el fundador de OpenAI, Ilya Sutskever , en febrero de 2022, cuando escribió que las grandes redes neuronales actuales pueden ser "ligeramente conscientes". En noviembre de 2022, David Chalmers argumentó que era poco probable que los grandes modelos lingüísticos actuales como GPT-3 hubieran experimentado la conciencia, pero también que consideraba que existía una gran posibilidad de que los grandes modelos lingüísticos pudieran volverse conscientes en el futuro. [92] [93] [94] En la ética de la sensibilidad incierta , a menudo se invoca el principio de precaución . [95]
Según Carl Shulman y Nick Bostrom , es posible crear máquinas que sean "sobrehumanamente eficientes a la hora de derivar bienestar de los recursos", llamadas "superbeneficiarios". Una razón para ello es que el hardware digital podría permitir un procesamiento de la información mucho más rápido que los cerebros biológicos, lo que llevaría a una tasa más rápida de experiencia subjetiva . Estas máquinas también podrían diseñarse para sentir una experiencia subjetiva intensa y positiva, sin verse afectadas por la cinta de correr hedónica . Shulman y Bostrom advierten que no considerar adecuadamente las exigencias morales de las mentes digitales podría conducir a una catástrofe moral, mientras que priorizarlas acríticamente por sobre los intereses humanos podría ser perjudicial para la humanidad. [96] [97]
Joseph Weizenbaum [98] argumentó en 1976 que la tecnología de IA no debería utilizarse para reemplazar a personas en puestos que requieren respeto y cuidado, como:
Weizenbaum explica que necesitamos auténticos sentimientos de empatía de las personas que ocupan estas posiciones. Si las máquinas las sustituyen, nos sentiremos alienados, devaluados y frustrados, ya que el sistema de inteligencia artificial no sería capaz de simular empatía. La inteligencia artificial, si se utiliza de esta manera, representa una amenaza a la dignidad humana. Weizenbaum sostiene que el hecho de que estemos considerando la posibilidad de que las máquinas ocupen estas posiciones sugiere que hemos experimentado una "atrofia del espíritu humano que surge de pensarnos como computadoras". [99]
Pamela McCorduck contraataca diciendo que, hablando en nombre de las mujeres y las minorías, "prefiero arriesgarme con una computadora imparcial", señalando que hay condiciones en las que preferiríamos tener jueces y policías automatizados que no tengan ninguna agenda personal. [99] Sin embargo, Kaplan y Haenlein subrayan que los sistemas de IA son tan inteligentes como los datos utilizados para entrenarlos, ya que, en esencia, no son más que sofisticadas máquinas de ajuste de curvas; el uso de la IA para respaldar un fallo judicial puede ser muy problemático si los fallos anteriores muestran sesgos hacia ciertos grupos, ya que esos sesgos se formalizan y arraigan, lo que los hace aún más difíciles de detectar y combatir. [100]
A Weizenbaum también le molestaba que los investigadores de IA (y algunos filósofos) estuvieran dispuestos a considerar la mente humana como nada más que un programa informático (una postura que ahora se conoce como computacionalismo ). Para Weizenbaum, estos puntos sugieren que la investigación de IA devalúa la vida humana. [98]
El fundador de la IA, John McCarthy, se opone al tono moralizador de la crítica de Weizenbaum. “Cuando la moralización es a la vez vehemente y vaga, invita al abuso autoritario”, escribe. Bill Hibbard [101] escribe que “la dignidad humana exige que nos esforcemos por eliminar nuestra ignorancia sobre la naturaleza de la existencia, y la IA es necesaria para ese esfuerzo”.
A medida que el uso generalizado de los coches autónomos se hace cada vez más inminente, es necesario afrontar los nuevos retos que plantean los vehículos totalmente autónomos. [102] [103] Se ha debatido sobre la responsabilidad legal de la parte responsable si estos coches sufren un accidente. [104] [105] En un informe en el que un coche sin conductor atropelló a un peatón, el conductor estaba dentro del coche, pero los controles estaban completamente en manos de ordenadores. Esto dio lugar a un dilema sobre quién tuvo la culpa del accidente. [106]
En otro incidente ocurrido el 18 de marzo de 2018, Elaine Herzberg fue atropellada y asesinada por un vehículo autónomo de Uber en Arizona. En este caso, el vehículo autónomo era capaz de detectar vehículos y determinados obstáculos para circular de forma autónoma por la calzada, pero no podía anticipar la presencia de un peatón en medio de la vía. Esto planteó la cuestión de si el conductor, el peatón, la empresa automovilística o el gobierno deberían ser considerados responsables de su muerte. [107]
En la actualidad, los vehículos autónomos se consideran semiautónomos, lo que requiere que el conductor preste atención y esté preparado para tomar el control si es necesario. [108] [ verificación fallida ] Por lo tanto, corresponde a los gobiernos regular al conductor que confía demasiado en las funciones autónomas, así como educarlo sobre el hecho de que estas son solo tecnologías que, si bien son convenientes, no son un sustituto completo. Antes de que los vehículos autónomos se utilicen ampliamente, es necesario abordar estas cuestiones mediante nuevas políticas. [109] [110] [111]
Los expertos sostienen que los vehículos autónomos deberían ser capaces de distinguir entre decisiones correctas y perjudiciales, ya que tienen el potencial de causar daño. [112] Los dos enfoques principales propuestos para permitir que las máquinas inteligentes tomen decisiones morales son el enfoque de abajo hacia arriba, que sugiere que las máquinas deberían aprender decisiones éticas observando el comportamiento humano sin necesidad de reglas formales o filosofías morales, y el enfoque de arriba hacia abajo, que implica programar principios éticos específicos en el sistema de guía de la máquina. Sin embargo, ambas estrategias enfrentan desafíos significativos: la técnica de arriba hacia abajo es criticada por su dificultad para preservar ciertas convicciones morales, mientras que la estrategia de abajo hacia arriba es cuestionada por el aprendizaje potencialmente poco ético de las actividades humanas.
Algunos expertos y académicos han cuestionado el uso de robots para el combate militar, especialmente cuando a dichos robots se les da cierto grado de funciones autónomas. [113] La Marina de los EE. UU. ha financiado un informe que indica que a medida que los robots militares se vuelven más complejos, debe prestarse mayor atención a las implicaciones de su capacidad para tomar decisiones autónomas. [114] [115] El presidente de la Asociación para el Avance de la Inteligencia Artificial ha encargado un estudio para analizar esta cuestión. [116] Señalan programas como el Dispositivo de Adquisición de Lenguaje que puede emular la interacción humana.
El 31 de octubre de 2019, la Junta de Innovación de Defensa del Departamento de Defensa de los Estados Unidos publicó el borrador de un informe que recomienda principios para el uso ético de la inteligencia artificial por parte del Departamento de Defensa que garantizarían que un operador humano siempre pudiera mirar dentro de la " caja negra " y comprender el proceso de la cadena de muerte. Sin embargo, una preocupación importante es cómo se implementará el informe. [117] La Marina de los EE. UU. ha financiado un informe que indica que a medida que los robots militares se vuelven más complejos, debe haber una mayor atención a las implicaciones de su capacidad para tomar decisiones autónomas. [118] [115] Algunos investigadores afirman que los robots autónomos podrían ser más humanos, ya que podrían tomar decisiones de manera más efectiva. [119]
La investigación ha estudiado cómo generar poder autónomo con la capacidad de aprender utilizando responsabilidades morales asignadas. “Los resultados pueden usarse al diseñar futuros robots militares, para controlar tendencias no deseadas a asignar responsabilidades a los robots”. [120] Desde una perspectiva consecuencialista , existe la posibilidad de que los robots desarrollen la capacidad de tomar sus propias decisiones lógicas sobre a quién matar y es por eso que debería haber un marco moral establecido que la IA no pueda anular. [121]
Recientemente se ha producido una protesta con respecto a la ingeniería de armas de inteligencia artificial que han incluido ideas de una toma de control de la humanidad por parte de robots . Las armas de IA presentan un tipo de peligro diferente al de las armas controladas por humanos. Muchos gobiernos han comenzado a financiar programas para desarrollar armamento de IA. La Marina de los Estados Unidos anunció recientemente planes para desarrollar armas de drones autónomos , en paralelo con anuncios similares de Rusia y Corea del Sur [122] respectivamente. Debido al potencial de que las armas de IA se vuelvan más peligrosas que las armas operadas por humanos, Stephen Hawking y Max Tegmark firmaron una petición "El futuro de la vida" [123] para prohibir las armas de IA. El mensaje publicado por Hawking y Tegmark afirma que las armas de IA plantean un peligro inmediato y que se requieren acciones para evitar desastres catastróficos en el futuro cercano. [124]
"Si alguna gran potencia militar sigue adelante con el desarrollo de armas de IA, una carrera armamentista global es virtualmente inevitable, y el punto final de esta trayectoria tecnológica es obvio: las armas autónomas se convertirán en los Kalashnikovs del mañana", dice la petición, que incluye al cofundador de Skype Jaan Tallinn y al profesor de lingüística del MIT Noam Chomsky como partidarios adicionales contra las armas de IA. [125]
El físico y astrónomo Sir Martin Rees ha advertido de casos catastróficos como "robots tontos que se vuelven rebeldes o una red que desarrolla una mente propia". Huw Price , un colega de Rees en Cambridge, ha expresado una advertencia similar de que los humanos podrían no sobrevivir cuando la inteligencia "escapa a las limitaciones de la biología". Estos dos profesores crearon el Centro para el Estudio del Riesgo Existencial en la Universidad de Cambridge con la esperanza de evitar esta amenaza a la existencia humana. [124]
En cuanto al potencial de que sistemas más inteligentes que los humanos se empleen militarmente, el Proyecto de Filantropía Abierta escribe que estos escenarios "parecen potencialmente tan importantes como los riesgos relacionados con la pérdida de control", pero las investigaciones que investigan el impacto social a largo plazo de la IA han dedicado relativamente poco tiempo a esta preocupación: "esta clase de escenarios no ha sido un foco principal para las organizaciones que han sido más activas en este espacio, como el Machine Intelligence Research Institute (MIRI) y el Future of Humanity Institute (FHI), y parece haber habido menos análisis y debate sobre ellos". [126]
El académico Gao Qiqi escribe que el uso militar de la IA corre el riesgo de aumentar la competencia militar entre países y que el impacto de la IA en asuntos militares no se limitará a un país sino que tendrá efectos indirectos. [127] : 91 Gao cita el ejemplo del uso militar de la IA por parte de los EE. UU., que, según él, se ha utilizado como chivo expiatorio para evadir la responsabilidad por la toma de decisiones. [127] : 91
En 2023 se celebró en La Haya una cumbre sobre la cuestión del uso responsable de la IA en el ámbito militar. [128]
Vernor Vinge , entre muchos otros, ha sugerido que puede llegar un momento en que algunas computadoras, si no todas, sean más inteligentes que los humanos. El inicio de este evento se conoce comúnmente como " la Singularidad " [129] y es el punto central de discusión en la filosofía del Singularitarianismo . Si bien las opiniones varían en cuanto al destino final de la humanidad a raíz de la Singularidad, los esfuerzos para mitigar los posibles riesgos existenciales provocados por la inteligencia artificial se han convertido en un tema de interés significativo en los últimos años entre los científicos informáticos, los filósofos y el público en general.
Muchos investigadores han argumentado que, a través de una explosión de inteligencia , una IA automejorable podría volverse tan poderosa que los humanos no podrían impedirle alcanzar sus objetivos. [130] En su artículo "Cuestiones éticas en la inteligencia artificial avanzada" y el libro posterior Superinteligencia: caminos, peligros, estrategias , el filósofo Nick Bostrom argumenta que la inteligencia artificial tiene la capacidad de provocar la extinción humana. Afirma que una superinteligencia artificial sería capaz de iniciativa independiente y de hacer sus propios planes, y por lo tanto puede ser más apropiadamente pensada como un agente autónomo. Dado que los intelectos artificiales no necesitan compartir nuestras tendencias motivacionales humanas, correspondería a los diseñadores de la superinteligencia especificar sus motivaciones originales. Debido a que una IA superinteligente sería capaz de producir casi cualquier resultado posible y frustrar cualquier intento de prevenir la implementación de sus objetivos, podrían surgir muchas consecuencias no deseadas e incontroladas . Podría matar a todos los demás agentes, persuadirlos para que cambien su comportamiento o bloquear sus intentos de interferencia. [131] [132]
Sin embargo, Bostrom sostuvo que la superinteligencia también tiene el potencial de resolver muchos problemas difíciles como las enfermedades, la pobreza y la destrucción del medio ambiente, y podría ayudar a los humanos a mejorar . [133]
A menos que la filosofía moral nos proporcione una teoría ética impecable, la función de utilidad de una IA podría permitir muchos escenarios potencialmente dañinos que se ajusten a un marco ético dado pero no al "sentido común". Según Eliezer Yudkowsky , hay pocas razones para suponer que una mente diseñada artificialmente tendría tal adaptación. [134] Investigadores de IA como Stuart J. Russell , [135] Bill Hibbard , [101] Roman Yampolskiy , [136] Shannon Vallor , [137] Steven Umbrello [138] y Luciano Floridi [139] han propuesto estrategias de diseño para desarrollar máquinas beneficiosas.
Hay muchas organizaciones interesadas en la ética y las políticas de IA, tanto públicas y gubernamentales como corporativas y sociales.
Amazon , Google , Facebook , IBM y Microsoft han creado una organización sin fines de lucro , The Partnership on AI to Benefit People and Society, para formular las mejores prácticas en tecnologías de inteligencia artificial, promover la comprensión del público y servir como plataforma sobre inteligencia artificial. Apple se unió en enero de 2017. Los miembros corporativos harán contribuciones financieras y de investigación al grupo, al mismo tiempo que se relacionarán con la comunidad científica para incorporar académicos a la junta. [140]
El IEEE ha creado una Iniciativa Global sobre Ética de Sistemas Autónomos e Inteligentes que ha estado creando y revisando directrices con la ayuda de aportes públicos y acepta como miembros a muchos profesionales de dentro y fuera de su organización. La iniciativa Ética de Sistemas Autónomos del IEEE tiene como objetivo abordar dilemas éticos relacionados con la toma de decisiones y el impacto en la sociedad, al tiempo que desarrolla directrices para el desarrollo y uso de sistemas autónomos. En particular, en dominios como la inteligencia artificial y la robótica, la Fundación para la Robótica Responsable se dedica a promover el comportamiento moral, así como el diseño y uso responsable de robots, asegurando que los robots mantengan principios morales y sean congruentes con los valores humanos.
Tradicionalmente, las sociedades han recurrido al gobierno para garantizar el respeto de la ética mediante la legislación y la vigilancia. Ahora, los gobiernos nacionales, así como las organizaciones gubernamentales y no gubernamentales transnacionales, están haciendo muchos esfuerzos para garantizar que la IA se aplique de manera ética.
El trabajo de ética de la IA está estructurado por valores personales y compromisos profesionales, e implica la construcción de significado contextual a través de datos y algoritmos. Por lo tanto, es necesario incentivar el trabajo de ética de la IA. [141]
Históricamente hablando, la investigación de las implicaciones morales y éticas de las "máquinas pensantes" se remonta al menos a la Ilustración : Leibniz ya plantea la cuestión de si podemos atribuir inteligencia a un mecanismo que se comporta como si fuera un ser sensible, [167] y lo mismo hace Descartes , quien describe lo que podría considerarse una versión temprana de la prueba de Turing . [168]
El período romántico ha imaginado varias veces criaturas artificiales que escapan al control de su creador con consecuencias nefastas, la más famosa de las cuales es Frankenstein de Mary Shelley . Sin embargo, la preocupación generalizada por la industrialización y la mecanización en el siglo XIX y principios del XX trajo consigo las implicaciones éticas de los desarrollos técnicos desquiciados al primer plano de la ficción: RUR - Universal Robots de Rossum , la obra de Karel Čapek sobre robots sensibles dotados de emociones utilizados como mano de obra esclava no solo se le atribuye la invención del término "robot" (derivado de la palabra checa para trabajo forzado, robota ), sino que también fue un éxito internacional después de su estreno en 1921. La obra de George Bernard Shaw Back to Methuselah , publicada en 1921, cuestiona en un momento la validez de las máquinas pensantes que actúan como humanos; la película Metrópolis de Fritz Lang de 1927 muestra a un androide liderando el levantamiento de las masas explotadas contra el régimen opresivo de una sociedad tecnocrática . En la década de 1950, Isaac Asimov consideró la cuestión de cómo controlar las máquinas en Yo, robot . Por insistencia de su editor John W. Campbell Jr. , propuso las Tres Leyes de la Robótica para gobernar los sistemas de inteligencia artificial. Gran parte de su trabajo se dedicó entonces a probar los límites de sus tres leyes para ver dónde fallarían, o dónde crearían un comportamiento paradójico o imprevisto. [169] Su trabajo sugiere que ningún conjunto de leyes fijas puede anticipar suficientemente todas las circunstancias posibles. [170] Más recientemente, académicos y muchos gobiernos han desafiado la idea de que la IA pueda ser considerada responsable por sí misma. [171] Un panel convocado por el Reino Unido en 2010 revisó las leyes de Asimov para aclarar que la IA es responsabilidad de sus fabricantes o de su propietario/operador. [172]
Eliezer Yudkowsky , del Machine Intelligence Research Institute, sugirió en 2004 la necesidad de estudiar cómo construir una " IA amigable ", lo que significa que también deberían hacerse esfuerzos para hacer que la IA sea intrínsecamente amigable y humana. [173]
En 2009, académicos y expertos técnicos asistieron a una conferencia organizada por la Asociación para el Avance de la Inteligencia Artificial para discutir el impacto potencial de los robots y las computadoras, y el impacto de la posibilidad hipotética de que pudieran volverse autosuficientes y tomar sus propias decisiones. Discutieron la posibilidad y el grado en que las computadoras y los robots podrían adquirir algún nivel de autonomía, y en qué grado podrían usar tales habilidades para posiblemente plantear alguna amenaza o peligro. [174] Señalaron que algunas máquinas han adquirido varias formas de semiautonomía, incluyendo la capacidad de encontrar fuentes de energía por sí mismas y poder elegir independientemente objetivos para atacar con armas. También señalaron que algunos virus informáticos pueden evadir la eliminación y han alcanzado la "inteligencia de cucaracha". Señalaron que la autoconciencia como se describe en la ciencia ficción es probablemente poco probable, pero que existen otros peligros y trampas potenciales. [129]
También en 2009, durante un experimento en el Laboratorio de Sistemas Inteligentes de la Escuela Politécnica Federal de Lausana , Suiza, los robots que fueron programados para cooperar entre sí (en la búsqueda de un recurso beneficioso y evitando uno venenoso) eventualmente aprendieron a mentirse unos a otros en un intento de acaparar el recurso beneficioso. [175]
El papel de la ficción en relación con la ética de la IA ha sido complejo. [176] Se pueden distinguir tres niveles en los que la ficción ha impactado en el desarrollo de la inteligencia artificial y la robótica: Históricamente, la ficción ha estado prefigurando tropos comunes que no solo han influido en los objetivos y visiones de la IA, sino que también han delineado cuestiones éticas y temores comunes asociados con ella. Durante la segunda mitad del siglo XX y las primeras décadas del siglo XXI, la cultura popular, en particular las películas, las series de televisión y los videojuegos, se han hecho eco con frecuencia de preocupaciones y proyecciones distópicas en torno a cuestiones éticas relacionadas con la IA y la robótica. Recientemente, estos temas también han sido tratados cada vez más en la literatura más allá del ámbito de la ciencia ficción. Y, como señala Carme Torras, profesora de investigación en el Institut de Robòtica i Informàtica Industrial (Instituto de Robótica e Informática Industrial) de la Universidad Politécnica de Cataluña, [177] en la educación superior, la ciencia ficción también se utiliza cada vez más para enseñar cuestiones éticas relacionadas con la tecnología en los grados tecnológicos.
Aunque la anticipación de un futuro dominado por una tecnología potencialmente indomable ha alimentado la imaginación de escritores y cineastas durante mucho tiempo, hay una cuestión que se ha analizado con menos frecuencia: hasta qué punto la ficción ha desempeñado un papel en la inspiración para el desarrollo tecnológico. Se ha documentado, por ejemplo, que el joven Alan Turing vio y apreció la obra de teatro de Shaw antes mencionada Back to Methuselah en 1933 [178] (apenas tres años antes de la publicación de su primer artículo seminal, [179] que sentó las bases para la computadora digital), y probablemente habría estado al menos al tanto de obras de teatro como RUR , que fue un éxito internacional y se tradujo a muchos idiomas.
También se podría preguntar qué papel jugó la ciencia ficción en el establecimiento de los principios y las implicaciones éticas del desarrollo de la IA: Isaac Asimov conceptualizó sus Tres Leyes de la Robótica en el cuento de 1942 " Runaround ", parte de la colección de cuentos Yo, Robot ; el cortometraje de Arthur C. Clarke The Sentinel , en el que se basa la película de Stanley Kubrick 2001: Una odisea del espacio , fue escrito en 1948 y publicado en 1952. Otro ejemplo (entre muchos otros) serían los numerosos cuentos y novelas de Philip K. Dick , en particular ¿Sueñan los androides con ovejas eléctricas?, publicado en 1968, y que presenta su propia versión de una prueba de Turing, la prueba de Voight-Kampff , para medir las respuestas emocionales de los androides indistinguibles de los humanos. La novela más tarde se convirtió en la base de la influyente película de 1982 Blade Runner de Ridley Scott .
La ciencia ficción ha estado lidiando con las implicaciones éticas de los desarrollos de IA durante décadas, y por lo tanto proporcionó un modelo para las cuestiones éticas que podrían surgir una vez que se haya logrado algo parecido a la inteligencia artificial general: la película Her de 2013 de Spike Jonze muestra lo que puede suceder si un usuario se enamora de la voz seductora del sistema operativo de su teléfono inteligente; Ex Machina , por otro lado, plantea una pregunta más difícil: si nos enfrentamos a una máquina claramente reconocible, hecha humana solo por un rostro y una voz empática y sensual, ¿seríamos capaces de establecer una conexión emocional, seguir siendo seducidos por ella? (La película se hace eco de un tema ya presente dos siglos antes, en el cuento The Sandmann de 1817 de ETA Hoffmann ).
El tema de la coexistencia con seres artificiales sensibles es también el tema de dos novelas recientes: Machines Like Me de Ian McEwan , publicada en 2019, involucra, entre muchas otras cosas, un triángulo amoroso que involucra a una persona artificial y a una pareja humana. Klara and the Sun del ganador del Premio Nobel Kazuo Ishiguro , publicada en 2021, es el relato en primera persona de Klara, una 'AF' (amiga artificial), que intenta, a su manera, ayudar a la chica con la que vive, quien, después de haber sido 'lifted' (es decir, haber sido sometida a mejoras genéticas), sufre una extraña enfermedad.
Si bien las cuestiones éticas vinculadas a la IA han aparecido en la literatura y los largometrajes de ciencia ficción durante décadas, la aparición de las series de televisión como un género que permite historias y desarrollos de personajes más largos y complejos ha dado lugar a algunas contribuciones significativas que abordan las implicaciones éticas de la tecnología. La serie sueca Real Humans (2012-2013) abordó las complejas consecuencias éticas y sociales vinculadas a la integración de seres artificiales sintientes en la sociedad. La serie antológica británica de ciencia ficción distópica Black Mirror (2013-2019) fue particularmente notable por experimentar con desarrollos ficticios distópicos vinculados a una amplia variedad de desarrollos tecnológicos recientes. Tanto la serie francesa Osmosis (2020) como la serie británica The One abordan la cuestión de qué puede suceder si la tecnología intenta encontrar la pareja ideal para una persona. Varios episodios de la serie de Netflix Love, Death+Robots han imaginado escenas de robots y humanos viviendo juntos. El más representativo de ellos es S02 E01, que muestra cuán malas pueden ser las consecuencias cuando los robots se descontrolan si los humanos dependen demasiado de ellos en sus vidas. [180]
La película El piso trece sugiere un futuro en el que se crean mundos simulados con habitantes sensibles mediante consolas de juegos de computadora con el propósito de entretenimiento. La película Matrix sugiere un futuro en el que la especie dominante en el planeta Tierra son máquinas sensibles y la humanidad es tratada con el máximo especismo . El cuento " La inmersión de Planck " sugiere un futuro en el que la humanidad se ha convertido en un software que puede duplicarse y optimizarse y la distinción relevante entre los tipos de software es sensible y no sensible. La misma idea se puede encontrar en el holograma médico de emergencia de la nave espacial Voyager , que es una copia aparentemente sensible de un subconjunto reducido de la conciencia de su creador, el Dr. Zimmerman , quien, por los mejores motivos, ha creado el sistema para brindar asistencia médica en caso de emergencias. Las películas El hombre bicentenario y AI tratan la posibilidad de robots sensibles que podrían amar. Yo, robot exploró algunos aspectos de las tres leyes de Asimov. Todos estos escenarios intentan prever consecuencias posiblemente poco éticas de la creación de computadoras sensibles. [181]
La ética de la inteligencia artificial es uno de los varios temas centrales de la serie de juegos Mass Effect de BioWare . [182] Explora el escenario de una civilización que crea accidentalmente una IA a través de un rápido aumento en el poder computacional mediante una red neuronal a escala global . Este evento causó un cisma ético entre aquellos que sentían que otorgar derechos orgánicos a los Geth recién conscientes era apropiado y aquellos que continuaban viéndolos como maquinaria desechable y luchaban por destruirlos. Más allá del conflicto inicial, la complejidad de la relación entre las máquinas y sus creadores es otro tema constante a lo largo de la historia.
Detroit: Become Human es uno de los videojuegos más famosos que analiza la ética de la inteligencia artificial en los últimos tiempos. Quantic Dream diseñó los capítulos del juego utilizando historias interactivas para ofrecer a los jugadores una experiencia de juego más inmersiva. Los jugadores manipulan a tres personas biónicas diferentes que han despertado ante diferentes eventos para que tomen decisiones diferentes para lograr el propósito de cambiar la visión humana del grupo biónico y las diferentes decisiones darán como resultado diferentes finales. Este es uno de los pocos juegos que pone a los jugadores en la perspectiva biónica, lo que les permite considerar mejor los derechos e intereses de los robots una vez que se crea una verdadera inteligencia artificial. [183]
Con el tiempo, los debates han tendido a centrarse cada vez menos en la posibilidad y más en la deseabilidad , [184] como se enfatiza en los debates "Cosmista" y "Terrano" iniciados por Hugo de Garis y Kevin Warwick . Un cosmista, según Hugo de Garis, en realidad busca construir sucesores más inteligentes para la especie humana.
Los expertos de la Universidad de Cambridge han argumentado que la IA se presenta en la ficción y en la no ficción abrumadoramente como racialmente blanca, de maneras que distorsionan las percepciones de sus riesgos y beneficios. [185]