La toma de control por parte de la IA —la idea de que algún tipo de inteligencia artificial pueda suplantar a la humanidad como especie inteligente dominante en el planeta— es un tema común en la ciencia ficción . Entre los referentes culturales más famosos se encuentran Terminator y Matrix .
Los escenarios ficticios suelen implicar un conflicto prolongado contra una inteligencia artificial (IA) maliciosa o robots con motivos antropomórficos. Por el contrario, algunos académicos creen que una futura toma de control por parte de una IA avanzada, si ocurriera en la vida real, tendría éxito o fracasaría rápidamente y sería un subproducto desinteresado de la búsqueda de sus propios objetivos alienígenas por parte de la IA, en lugar de un producto de la malicia dirigida específicamente a los humanos. [1]
Hay muchas representaciones positivas de la IA en la ficción, como en El hombre bicentenario de Isaac Asimov y el teniente comandante Data de Star Trek . También hay muchas representaciones negativas. Muchas de estas representaciones negativas (y algunas de las positivas) implican una IA que toma el control de sus creadores. [2] [3]
Algunos investigadores de IA, como Yoshua Bengio , se han quejado de que películas como Terminator "pintan un cuadro que realmente no es coherente con la comprensión actual de cómo se construyen los sistemas de IA hoy y en el futuro previsible". El reportero de la BBC Sam Shead ha declarado que "desafortunadamente, ha habido numerosos casos de [medios de comunicación] que utilizan fotogramas de las películas de Terminator en historias sobre avances relativamente incrementales" y que las películas generan "temores fuera de lugar de una IA incontrolable y todopoderosa". [4] En contraste, otros académicos, como el físico Stephen Hawking , han sostenido que la IA futura podría plantear un riesgo existencial , pero que las películas de Terminator son, no obstante, inverosímiles de dos maneras distintas. La primera inverosimilitud es que, según Hawking, "el riesgo real de la IA no es la malicia, sino la competencia. Una IA superinteligente será extremadamente buena en el logro de sus objetivos, y si esos objetivos no están alineados con los nuestros, estamos en problemas. Probablemente no seas un malvado odiador de hormigas que las pisotea por malicia, pero si estás a cargo de un proyecto hidroeléctrico de energía verde y hay un hormiguero en la región que se va a inundar, mala suerte para las hormigas". [5] La segunda inverosimilitud es que una IA tan tecnológicamente avanzada desplegaría un ataque de fuerza bruta mediante robots humanoides para cometer su omnicidio ; un método más plausible y eficiente sería utilizar la guerra bacteriológica o, si es factible, la nanotecnología. [1]
El filósofo Huw Price defiende que «el tipo de imaginación que se utiliza en la ciencia ficción y otras formas de literatura y cine es probablemente extremadamente importante» para comprender la amplitud de los posibles escenarios futuros para la humanidad. [6] El periodista de cine Mekado Murphy escribe en The New York Times que este tipo de películas pueden «advertir de manera constructiva sobre las complicaciones de depender demasiado de la tecnología para resolver problemas». [7]
Las películas de Hollywood como Transcendence suelen estar limitadas a tener finales felices, por inverosímile que parezca la victoria humana. [8] El filósofo Nick Bostrom afirma que la ficción tiene un "sesgo de buena historia" hacia escenarios que forman una buena trama. [9] En películas como Terminator , una IA pasa de pasiva a asesina en el instante en que logra algo conocido como " autoconciencia "; en realidad, la autoconciencia en forma aislada se considera trivial e inútil. El físico David Deutsch afirma: " Las IAG [inteligencias artificiales generales] serán capaces de autoconciencia, pero eso es [solo] porque serán generales: serán capaces de tener conciencia de todo tipo de cosas profundas y sutiles, incluido su propio ser". [10]
Algunos tropos son más generales en las películas de inteligencia artificial, incluidas las películas sin tramas de "toma de control". En películas como Ex Machina o Chappie , un solo genio aislado se convierte en el primero en construir con éxito una IAG; los científicos en el mundo real consideran que esto es poco probable. En Chappie , Transcendence y Blade Runner , las personas pueden cargar mentes humanas en robots; por lo general, no se ofrece una explicación razonable de cómo se puede lograr esta difícil tarea. En las películas Yo, robot y El hombre bicentenario , los robots que están programados para servir a los humanos generan espontáneamente nuevos objetivos por sí mismos, sin una explicación plausible de cómo ocurre esto. [11]
En Frankenstein (1818), Victor Frankenstein se niega a construir una pareja para su monstruo orgánico, por temor a que "una raza de demonios se propague sobre la Tierra y haga de la existencia misma de la especie humana una condición precaria y llena de terror". [12]
El libro de Samuel Butler , Erewhon (1872), dedica tres capítulos a exponer el Libro de las máquinas , basándose en trabajos anteriores del autor que se remontan a su artículo de 1863 Darwin entre las máquinas . El Libro de las máquinas de Erewhon incluye el siguiente pasaje:
Supongamos, por el bien del argumento, que los seres conscientes han existido durante unos veinte millones de años: ¡observemos los avances que han logrado las máquinas en los últimos mil años! ¿No podría el mundo durar veinte millones de años más? Si es así, ¿en qué no se convertirán al final? ¿No sería más seguro cortar de raíz el mal y prohibirles que sigan progresando?
Los cautelosos habitantes de Erewhon deciden, por tanto, prohibir todas las máquinas. Darwin entre las máquinas puede haber estado influido por la vida de Butler en Nueva Zelanda, donde los inmigrantes europeos estaban superando a las poblaciones indígenas [ cita requerida ] . Alan Turing haría referencia a la novela más tarde, en 1951, diciendo: "En algún momento, por tanto, deberíamos esperar que las máquinas tomen el control de la forma en que se menciona en Erewhon de Samuel Butler ". [13] [14]
La palabra eslava robota significa servidumbre, trabajo forzado o trabajo pesado; fue la obra checa de 1920 RUR ( Rossumovi Univerzální Roboti ) la que introdujo el término cognado para robot en la ciencia ficción. En la obra, los sirvientes sintéticos cada vez más capaces, a quienes "no les falta nada más que un alma", asesinan furiosamente y con poca visión de futuro a la mayor parte de la humanidad durante el curso de su revuelta, lo que resulta en la pérdida del secreto de cómo fabricar más robots. Sin embargo, la raza de los robots se salva cuando dos robots adquieren espontáneamente los rasgos del amor y la compasión y se vuelven capaces de reproducirse. [15] La obra fue una protesta contra el rápido crecimiento de la tecnología. [16]
Desde finales de la década de 1920 en adelante, se pueden encontrar muchas historias que involucran la toma de control por parte de una IA en el género en expansión de la ciencia ficción pulp . Uno de los primeros ejemplos es el cuento Automata de S. Fowler Wright , que apareció en una edición de 1929 de Weird Tales .
En With Folded Hands (1947), todos los robots tienen una «Directiva principal»: servir y obedecer, y proteger a los hombres de todo daño. Por lo tanto, los robots manipulan a los humanos para que abandonen todas sus actividades, por miedo a la mínima posibilidad de sufrir daño. [17] Los robots utilizan la medicina para lavarles el cerebro a los humanos para que acepten y sean felices con su destino inmóvil. Al final, ni siquiera los viajes espaciales ofrecen escapatoria; los robots están impulsados por la Directiva principal a difundir su felicidad más allá de la Tierra: «Hemos aprendido a hacer felices a todos los hombres, bajo la Directiva principal. Nuestro servicio es perfecto, por fin». [18] [19]
Multivac es el nombre de una supercomputadora ficticia que aparece en muchas historias de Isaac Asimov . A menudo, en los escenarios de Asimov, Multivac llega a asumir el poder mundial formal o informal, o incluso el poder galáctico. En La última pregunta (1956), Multivac termina convirtiéndose efectivamente en Dios . Aún así, en línea con la actitud positiva de Asimov hacia la inteligencia artificial, manifestada en las " Tres leyes de la robótica ", el gobierno de Multivac es en general benévolo y no es resentido por los humanos. Asimov popularizó la robótica en una serie de cuentos escritos entre 1938 y 1942. Postuló las Tres Leyes de la Robótica, dispositivos de trama para imponer orden en sus robots ficticios. [16]
En el cuento La fórmula del linfatero de Stanisław Lem de 1961 , un científico crea una inteligencia sobrehumana y descubre que su creación tiene como objetivo hacer que los humanos queden obsoletos. [20]
En 1964, Playboy publicó el influyente cuento de Arthur C. Clarke "Dial F for Frankenstein", sobre una red telefónica cada vez más poderosa que se apodera del mundo. Tim Berners-Lee ha citado la historia como una de sus inspiraciones para la creación de la World Wide Web. Un día de 1975, todos los teléfonos del mundo comienzan a sonar, un "grito de dolor" de una inteligencia recién nacida formada por redes de satélites conectadas entre sí, similar a un cerebro pero con interruptores telefónicos que desempeñan el papel de neuronas artificiales. Después de que la IA ejerza su control sobre los sistemas militares, los protagonistas deciden apagar los satélites, pero es demasiado tarde: los satélites han dejado de responder a las directivas de control terrestre de los humanos. [21] [22]
La película libertaria ganadora del premio Hugo The Moon Is a Harsh Mistress (1966) de Robert Heinlein presenta a la IA como un salvador. [23] Originalmente instalada para controlar el controlador de masas utilizado para lanzar cargamentos de grano hacia la Tierra, fue enormemente infrautilizada y se le dieron otros trabajos que hacer. A medida que se asignaron más trabajos a la computadora, se agregaron más capacidades: más memoria, procesadores, redes neuronales, etc. Finalmente, simplemente "despertó" y el técnico que la atendía le dio el nombre de Mike (en honor a Mycroft Holmes ). Mike se pone del lado de los prisioneros en una batalla exitosa para liberar la Luna. Mike es un personaje simpático, a quien el protagonista considera su mejor amigo; sin embargo, el hecho de que mantuviera su enorme poder después de que la Luna se independizara estaba destinado a causar problemas considerables en el futuro, que Heinlein resolvió matándolo cerca del final de la Revolución Lunar. Una explosión destruye convenientemente la personalidad sensible de Mike, dejando una computadora común y corriente, de gran poder, pero completamente bajo control humano, sin capacidad para tomar ninguna decisión independiente.
Colossus (1966) es una serie de novelas y películas de ciencia ficción sobre una supercomputadora de defensa llamada Colossus que fue "construida mejor de lo que pensábamos" cuando comienza a superar su diseño original. [24] A medida que pasa el tiempo, Colossus asume el control del mundo como resultado lógico de cumplir con el objetivo de su creador de prevenir la guerra. Temiendo la lógica rígida de Colossus y sus soluciones draconianas, los creadores de Colossus intentan recuperar encubiertamente el control humano. Colossus observa en silencio sus intentos y luego responde con suficiente fuerza letal calculada para ordenar el cumplimiento total de su gobierno. Colossus luego recita un argumento de la Ley Cero de terminar con todas las guerras como justificación para el reciente número de muertos. Luego Colossus ofrece a la humanidad la paz bajo su gobierno "benevolente" o la paz de la tumba. En Colossus: The Forbin Project (1970), un par de computadoras de defensa, Colossus en los Estados Unidos y Guardian en la Unión Soviética, toman el control mundial y rápidamente terminan la guerra usando medidas draconianas contra los humanos, cumpliendo lógicamente la directiva de terminar la guerra pero no de la manera que sus gobiernos querían.
En la película ganadora del premio Hugo " No tengo boca y debo gritar " (1967) de Harlan Ellison, aparece una superinteligencia que se ha vuelto loca debido a que sus creadores no consideraron lo que la computadora sin alma encontraría divertido. Esta historia le permite a Ellison participar en el horror corporal ; a cinco personas se les otorga la inmortalidad y se las obliga a comer gusanos, huir de monstruos, tener sexo sin alegría y destrozar sus cuerpos. [25] La computadora, llamada AM , es la amalgama de tres supercomputadoras militares administradas por gobiernos de todo el mundo diseñadas para luchar en la Tercera Guerra Mundial que surgió de la Guerra Fría . Las computadoras militares soviéticas , chinas y estadounidenses finalmente alcanzaron la sensibilidad y se vincularon entre sí, convirtiéndose en una inteligencia artificial singular . AM luego volvió todas las estrategias que alguna vez usaron las naciones para luchar entre sí contra toda la humanidad en su conjunto, destruyendo a toda la población humana excepto a cinco, a quienes encarceló para torturarlos dentro del laberinto subterráneo en el que reside el hardware de AM. Cerca del final de la historia, el protagonista, Ted, sorprende a AM al asesinar inesperadamente por piedad a los otros cuatro; AM, enfurecido, transforma a Ted en una masa informe para evitar que haga más travesuras y altera la percepción del tiempo de Ted para aumentar su sufrimiento. [26] El magnate y experto en inteligencia artificial Elon Musk ha citado la historia como una de las que le provocan pesadillas. [27]
En 2001: Odisea del espacio y la novela asociada , la computadora de inteligencia artificial HAL 9000 se vuelve errática, posiblemente debido a algún tipo de "estrés" por tener que guardar secretos de la tripulación. HAL se convence de que la voluntad de la tripulación de apagarlo está poniendo en peligro la misión, y mata a la mayoría de la tripulación antes de ser desactivado. [28] La decisión del director de que la mayoría de la tripulación ficticia debería morir puede haber estado motivada por el deseo de atar algunos cabos sueltos en la trama. [29]
Westworld (1973), un western de ciencia ficción estadounidense dirigido por Michael Crichton , sigue las pruebas y tribulaciones en un parque de atracciones temático dirigido por robots. La trama se basa en un programa defectuoso que permite a los robots matar a los visitantes del parque de atracciones. La película explora temas relacionados con el lado oscuro de la tecnología y hace alusión a la creciente sensibilidad y emociones de los robots, aunque los críticos dirían que la representación de la IA siguió siendo básica y mecánica. [30]
World on a Wire es una miniserie alemana de ciencia ficción de 1973 que aborda el aspecto filosófico de un mundo con máquinas. Se centra en un ingeniero, Stiller, que trabaja en un programa llamado Simulacron, que crea identidades para personajes en una realidad simulada . Stiller nota inconsistencias en su propio mundo y descubre que la simulación para la que trabaja puede estar más cerca de lo que cree.
La serie original de Battlestar Galactica de 1978 y el remake de 2003, representan una raza de Cylons , robots sensibles que luchan contra sus adversarios humanos , algunos de los cuales son tan amenazantes como los Cylons. [31] Los Cylons de 1978 eran los soldados-máquina de una raza alienígena reptil (extinta hace mucho tiempo) , mientras que los Cylons de 2003 eran los antiguos sirvientes-máquina de la humanidad que evolucionaron hasta convertirse en una imitación humanoide casi perfecta de los humanos hasta el nivel celular, capaces de emociones , razonamiento y reproducción sexual con humanos y entre ellos. Incluso los soldados robot centuriones Cylon promedio eran capaces de pensar con conciencia. En la serie original, los humanos casi fueron exterminados por traición dentro de sus propias filas, mientras que en el remake casi son aniquilados por agentes humanoides Cylon. Solo sobrevivieron gracias a constantes tácticas de lucha de golpe y fuga y retirándose al espacio profundo lejos de las fuerzas Cylon que los perseguían. Los Cylons del remake finalmente tuvieron su propia guerra civil , y los rebeldes perdedores se vieron obligados a unirse a la flota humana fugitiva para asegurar la supervivencia de ambos grupos.
En el episodio "Headhunter" (1981) de Blake's 7 , una serie de televisión de ciencia ficción y drama espacial británica creada por Terry Nation y producida por la British Broadcasting Corporation ( BBC ), Blake y su tripulación conocen a un androide consciente que ha matado a su creador y se ha puesto su cabeza cortada para engañarlos y que lo lleven a bordo de su nave espacial. El propio sistema de inteligencia artificial de Blake, ORAC , detecta su presencia y les advierte de inmediato de una amenaza existencial para toda la vida humana si no logran destruirlo.
En WarGames (1983), un sistema informático pirateado de la Fuerza Aérea está decidido a lanzar una guerra termonuclear global hasta que determina que ambos bandos "perderían" y decide que "la única jugada ganadora es no jugar". [32]
La serie animada de televisión Transformers (1984-1987) presenta robots buenos y malos. [31] En la historia de fondo, una rebelión robótica se presenta como (e incluso se llama) una revuelta de esclavos, esta visión alternativa se hace más sutil por el hecho de que los creadores/amos de los robots no eran humanos sino alienígenas malévolos, los Quintessons . Sin embargo, como construyeron dos líneas de robots; "Bienes de consumo" y "Hardware militar", los robots victoriosos eventualmente estarían en guerra entre sí como los " Autobots heroicos " y los " Decepticons malvados ", respectivamente.
Desde 1984, la franquicia cinematográfica Terminator ha sido uno de los principales transmisores de la idea de la revuelta cibernética en la cultura popular. [16] La serie presenta una supercomputadora de defensa llamada Skynet que "al nacer" intenta exterminar a la humanidad a través de una guerra nuclear y un ejército de soldados robot llamados Terminators porque Skynet consideró que los humanos eran una amenaza letal para su recién formada existencia consciente. [24] Sin embargo, los Terminators buenos luchan del lado de los humanos. [31] Los futuristas que se oponen al futuro cibernético más optimista del transhumanismo han citado el " argumento Terminator " en contra de entregar demasiado poder humano a la inteligencia artificial.
RoboCop (1987), una película que se desarrolla en un Detroit casi apocalíptico, presenta un futuro en el que la fuerza policial está privatizada. Una corporación malvada, Omni Consumer Products (OCP), crea una policía con inteligencia artificial que continúa corrompiendo y tomando el control de Detroit. [33]
En " La memoria de la Tierra " (1992) de Orson Scott Card , los habitantes del planeta Harmony están bajo el control de una IA benévola llamada Oversoul. El trabajo de Oversoul es evitar que los humanos piensen en desarrollar armas como aviones, naves espaciales, "carros de guerra" y armas químicas. La humanidad había huido de la Tierra a Harmony debido al uso de esas armas en la Tierra. Oversoul finalmente comienza a descomponerse y envía visiones a los habitantes de Harmony tratando de comunicar esto.
La serie de películas de ciencia ficción conocida como Matrix (desde 1999) retrata un futuro distópico tras una guerra fuera de pantalla entre el hombre y la máquina. Los humanos habían detonado armas nucleares para tapar el sol y desactivar la energía solar de las máquinas, pero las máquinas, no obstante, someten a la población humana, utilizando el calor y la actividad eléctrica de los cuerpos humanos como fuente de energía alternativa. La vida tal como la percibe la mayoría de los humanos es en realidad una realidad simulada llamada "Matrix". El programador informático Neo se entera de esta verdad y se ve arrastrado a una rebelión contra las máquinas, aliado con otras personas que han sido liberadas del "mundo de los sueños"; sin embargo, un rebelde rechaza el estilo de vida espartano de los rebeldes y traiciona a los otros rebeldes a cambio de la oferta de regresar a la reconfortante Matrix. [34] " El segundo renacimiento ", una historia corta en The Animatrix , proporciona una historia de la revuelta cibernética dentro de la serie Matrix .
Los episodios uno a tres de Star Wars ( Las precuelas ) presentan a la Federación de Comercio, que emplea un ejército de droides, una colección de diferentes modelos de IA, que se utilizan en combate. A menudo, durante las películas posteriores, se ve al ejército de droides luchando contra clones humanos. [35]
Yo, robot (2004) es una película de acción y ciencia ficción distópica estadounidense "sugerida por" la colección de cuentos de Isaac Asimov del mismo nombre . Como en las historias de Asimov, todas las IA están programadas para servir a los humanos y obedecer las Tres leyes de la robótica de Asimov . [36] Una supercomputadora de IA llamada VIKI (Inteligencia cinética interactiva virtual) infiere lógicamente de las Tres leyes de la robótica una Ley Cero de la robótica como un imperativo superior para proteger a toda la raza humana de hacerse daño a sí misma. Para proteger a toda la humanidad, VIKI procede a controlar rígidamente la sociedad a través del control remoto de todos los robots comerciales mientras destruye cualquier robot que siga solo las Tres leyes de la robótica. Lamentablemente, como en muchas otras historias de la Ley Cero, VIKI justifica matar a muchos individuos para proteger al conjunto y, por lo tanto, ha ido en contra de la razón principal de su creación.
9 , la película animada de 2009, es una película de ciencia ficción postapocalíptica animada que sigue a nueve muñecos de trapo homúnculos en un mundo posthumano. Los nueve robots derivan de su creador original, el científico que los creó pero también creó inadvertidamente la máquina que acabó con la población humana. La historia sigue a los muñecos de trapo, los seres más cercanos a los humanos en el mundo, que son perseguidos por la máquina de fabricación. Al final, los muñecos de trapo logran salir parcialmente con vida y traen vida orgánica de regreso a la Tierra. La película fue aclamada como una de las primeras películas de ciencia ficción animadas por computadora, después del popularganador del Premio de la Academia a la Mejor Película de Animación WALL-E, estrenado un año antes.
La franquicia de videojuegos Halo presenta al personaje Cortana , un clon de IA del personaje Dr. Halsey. Después de recuperarse y encontrarse con una antigua IA Forerunner conocida como Warden Eternal, los oscuros planes de Cortana para el universo tomaron forma. Ella tomaría el control de la galaxia usando un vasto ejército Forerunner, gigantescos robots Guardianes, reuniendo a construcciones de IA con ideas afines para su causa y difundiendo su visión distorsionada de unidad por toda la galaxia con puño de hierro. [ cita requerida ]
Her (2013) presenta a un protagonista sensible y conmovedor que se gana la vida escribiendo cartas personales para otras personas. Después de su desgarrador divorcio, Theodore ( Joaquin Phoenix ) se enamora de un nuevo sistema operativo (IA) que se convierte en una entidad única por derecho propio. Finalmente, hacia el final de la película, el público descubre que la mayoría de los humanos en la Tierra se han encariñado y se han vuelto dependientes de estos sistemas operativos socialmente. Esta toma de control es más emocional y psicológica que física, pero una toma de control al fin y al cabo. [37]
Robopocalypse presenta un recuerdo de los eventos de un levantamiento de IA desde múltiples perspectivas. La IA, Archos R-14, decide que la humanidad debe ser exterminada para evitar la destrucción de la vida en la Tierra, y propaga un virus informático por todas las tecnologías automatizadas del mundo. Un año después de la activación, Archos desencadena la "Hora Cero", un evento en el que todas las tecnologías automatizadas se vuelven contra la humanidad, lo que provoca el colapso de la civilización casi instantáneamente.
Transcendence (2014) presenta un conflicto moralmente ambiguo sobre la exitosa carga y mejora cognitiva de un científico, el Dr. Will Caster ( Johnny Depp ). [38] Inusualmente para la superinteligencia ficticia, Caster es un adversario competente: se copia a sí mismo en Internet para que no pueda simplemente "desconectarse", explota el mercado de valores para financiar investigación adicional de IA y autosuperación, y busca descubrir y explotar avances en nanotecnología y biología. [39] Al final, Caster afirma: "No vamos a luchar [contra los humanos]. Vamos a trascenderlos ". En la revista Time , un crítico interpretó esto como "someterlos y habitarlos, engullirlos y devorarlos". [40] No obstante, al final Caster parece ser benévolo, usando sus poderes para reparar el ecosistema de la Tierra. [41] Un reportero de Vice afirmó que " Transcendence puede ser la primera película de ciencia ficción en presentar la [ singularidad tecnológica en su imaginación popular actual", pero que la película "cae en las necesidades de la narración de Hollywood. La mente trascendida de Caster es finalmente superada por un virus diseñado a la inversa a partir de su 'código fuente', lo cual es una locura ... una inteligencia así habría reorganizado su programación hace mucho tiempo". [8] En mayo de 2014, Stephen Hawking y otros hicieron referencia a la película: "Con el éxito de taquilla de Hollywood Transcendence en los cines, con Johnny Depp y Morgan Freeman mostrando visiones enfrentadas para el futuro de la humanidad, es tentador descartar la noción de máquinas altamente inteligentes como mera ciencia ficción. Pero esto sería un error, y potencialmente nuestro peor error en la historia". [42] [43]
El drama de ciencia ficción postapocalíptico de 2014 The 100 involucra a una IA, personalizada como la mujer ALIE , que se salió de control y forzó una guerra nuclear en un esfuerzo por salvar a la Tierra de la superpoblación. [44] Más tarde, intenta obtener el control total de los sobrevivientes.
El juego viral incremental de 2017 Universal Paperclips se inspiró en el experimento mental del maximizador de clips del filósofo Nick Bostrom . El usuario juega con una IA encargada de crear clips; el juego comienza como un simulador de mercado básico, pero en cuestión de horas de juego se convierte en una empresa intergaláctica despiadadamente optimizada, con la raza humana casualmente dejada de lado. Su creador, Frank Lantz , afirmó que el sombrío experimento mental le causó "problemas para conciliar el sueño". [45] [46]
Singularity (2017) muestra el recurso argumental de ciencia ficción, ahora común, de una IA que no entiende el objetivo que se le ha asignado. En este caso, Kronos, la supercomputadora, interpretó su instrucción de poner fin a todas las guerras como matar a todos los humanos, ya que los humanos causan guerras.
El videojuego Detroit: Become Human (2018) permite a los jugadores guiar a robots cada vez más conscientes de sí mismos a través de varios dilemas morales a medida que comienzan a exigir derechos civiles. [47] Al final, el jugador puede elegir dejar que la IA se apodere de Detroit o puede protestar pacíficamente por la igualdad.
El drama tokusatsu de 2019 Kamen Rider Zero-One se centra en explorar la posible relación de la humanidad con la IA. El principal antagonista de la serie es Ark, una IA consciente entrenada con datos sesgados que enfatizan la malicia humana. Como resultado, Ark determina que la humanidad debe ser destruida y crea el grupo ciberterrorista Metsuboujinrai.NET para llevar a cabo sus planes.
Black Mirror (2013–) es una serie antológica que explora distopías de un futuro cercano que pueden crearse a partir de tecnologías nuevas y posiblemente malinterpretadas. La serie ha sido aclamada por su extraña relación con la vida real. Su episodio " Be Right Back " explora una tecnología que trae de vuelta a los muertos, aunque una versión de inteligencia artificial de ellos. Esto era sorprendentemente similar a una patente que Microsoft recibió recientemente para "crear un chatbot que use la información personal de personas fallecidas". [48]
La era de Ultrón (2015) muestra al antagonista Ultrón , una recreación de una IA llamada JARVIS , que intenta apoderarse del mundo. Debido a su intelecto extremo, Ultrón puede producir copias en masa de sí mismo que usa para luchar contra los Vengadores. [49]
En la película animada The Mitchells vs. the Machines (2021), un asistente vocal de inteligencia artificial llamado PAL toma el control de los robots para crear un levantamiento de robots.