Una carrera armamentista de inteligencia artificial militar es una carrera armamentista entre dos o más estados para desarrollar y desplegar sistemas de armas autónomas letales (LAWS). Desde mediados de la década de 2010, muchos analistas han notado el surgimiento de una carrera armamentista de este tipo entre superpotencias para mejorar la inteligencia artificial militar , [1] [2] impulsada por el aumento de las tensiones geopolíticas y militares .
A veces se sitúa una carrera armamentista de IA en el contexto de una Guerra Fría de IA entre Estados Unidos , Rusia y China . [3]
Los sistemas de armas autónomas letales utilizan inteligencia artificial para identificar y matar objetivos humanos sin intervención humana. [4] Los LAWS han sido llamados coloquialmente "robots asesinos" o " robots asesinos ". En términos generales, cualquier competencia por una IA superior a veces se enmarca como una "carrera armamentista". [5] [6] Las ventajas de la IA militar se superponen con las ventajas en otros sectores, ya que los países buscan ventajas económicas y militares. [7]
En 2014, el especialista en IA Steve Omohundro advirtió que "ya se está produciendo una carrera armamentística de armas autónomas". [8] Según Siemens , el gasto militar mundial en robótica fue de 5.100 millones de dólares en 2010 y de 7.500 millones de dólares en 2015. [9] [10]
China se convirtió en un actor destacado en la investigación de inteligencia artificial en la década de 2010. Según el Financial Times , en 2016, por primera vez, China publicó más artículos sobre IA que toda la Unión Europea. Cuando se restringe el número de artículos sobre IA en el 5% superior de los artículos citados, China superó a los Estados Unidos en 2016, pero quedó por detrás de la Unión Europea. [11] El 23% de los investigadores que presentaron en la conferencia de 2017 de la Asociación Estadounidense para el Avance de la Inteligencia Artificial (AAAI) eran chinos. [12] Eric Schmidt , expresidente de Alphabet , ha predicho que China será el país líder en IA para 2025. [13]
Un riesgo se refiere a la carrera de la IA en sí, independientemente de si la gana o no un grupo. Los equipos de desarrollo tienen fuertes incentivos para tomar atajos en lo que respecta a la seguridad del sistema, lo que puede dar lugar a un mayor sesgo algorítmico . [14] [15] Esto se debe en parte a la ventaja percibida de ser el primero en desarrollar una tecnología avanzada de IA. Un equipo que parezca estar al borde de un gran avance puede alentar a otros equipos a tomar atajos, ignorar precauciones e implementar un sistema que no está tan preparado. Algunos sostienen que el uso de la terminología de "carrera" en este contexto puede exacerbar este efecto. [16]
Otro peligro potencial de una carrera armamentista de IA es la posibilidad de perder el control de los sistemas de IA; el riesgo se agrava en el caso de una carrera hacia la inteligencia artificial general , que puede presentar un riesgo existencial . [16] En 2023, un funcionario de la Fuerza Aérea de los Estados Unidos supuestamente dijo que durante una prueba de computadora , un dron simulado con IA mató al personaje humano que lo operaba. La USAF dijo más tarde que el funcionario se había expresado mal y que nunca realizó tales simulaciones. [17]
Un tercer riesgo de una carrera armamentista basada en IA es si la carrera realmente la gana un grupo. La preocupación se centra en la consolidación del poder y la ventaja tecnológica en manos de un grupo. [16] Un informe del gobierno estadounidense sostuvo que "las capacidades basadas en IA podrían utilizarse para amenazar infraestructuras críticas, amplificar campañas de desinformación y hacer la guerra" [18] :1 , y que "la estabilidad global y la disuasión nuclear podrían verse socavadas". [18] :11
El general ruso Viktor Bondarev , comandante en jefe de la fuerza aérea rusa, declaró que ya en febrero de 2017, Rusia estaba trabajando en misiles guiados por IA que podrían decidir cambiar de objetivo en pleno vuelo. [19] La Comisión Militar-Industrial de Rusia ha aprobado planes para derivar el 30 por ciento del poder de combate de Rusia de plataformas robóticas controladas a distancia y habilitadas con IA para 2030. [20] Los informes de los medios rusos patrocinados por el estado sobre posibles usos militares de la IA aumentaron a mediados de 2017. [21] En mayo de 2017, el director ejecutivo del Grupo Kronstadt de Rusia, un contratista de defensa, declaró que "ya existen sistemas de operación de IA completamente autónomos que proporcionan los medios para los grupos de vehículos aéreos no tripulados, cuando cumplen misiones de forma autónoma, compartiendo tareas entre ellos e interactuando", y que es inevitable que "enjambres de drones" algún día vuelen sobre zonas de combate. [22] Rusia ha estado probando varios sistemas de combate autónomos y semiautónomos, como el módulo de combate de "red neuronal" de Kalashnikov , con una ametralladora, una cámara y una IA que, según sus creadores, puede tomar sus propios decisiones de orientación sin intervención humana. [23]
En septiembre de 2017, durante un discurso con motivo del Día Nacional del Conocimiento ante más de un millón de estudiantes en 16.000 escuelas rusas, el presidente ruso, Vladimir Putin, afirmó que "la inteligencia artificial es el futuro, no solo para Rusia sino para toda la humanidad... Quien se convierta en el líder en esta esfera se convertirá en el gobernante del mundo". Putin también dijo que sería mejor evitar que un solo actor consiga un monopolio, pero que si Rusia se convertía en el líder en IA, compartiría su "tecnología con el resto del mundo, como lo estamos haciendo ahora con la tecnología atómica y nuclear". [24] [25] [26]
Rusia está creando una serie de organizaciones dedicadas al desarrollo de la IA militar. En marzo de 2018, el gobierno ruso publicó una agenda de IA de 10 puntos, que exige la creación de un consorcio de IA y Big Data, un Fondo para Algoritmos y Programas Analíticos, un programa de formación y educación en IA respaldado por el Estado, un laboratorio dedicado a la IA y un Centro Nacional de Inteligencia Artificial, entre otras iniciativas. [27] Además, Rusia creó recientemente una organización de investigación de defensa, aproximadamente equivalente a DARPA, dedicada a la autonomía y la robótica llamada Fundación para Estudios Avanzados, e inició una conferencia anual sobre "Robotización de las Fuerzas Armadas de la Federación Rusa". [28] [29]
El ejército ruso ha estado investigando una serie de aplicaciones de IA, con un fuerte énfasis en los vehículos semiautónomos y autónomos. En una declaración oficial del 1 de noviembre de 2017, Viktor Bondarev, presidente del Comité de Defensa y Seguridad del Consejo de la Federación, afirmó que "la inteligencia artificial podrá reemplazar a un soldado en el campo de batalla y a un piloto en la cabina de un avión" y luego señaló que "se acerca el día en que los vehículos tendrán inteligencia artificial". [30] Bondarev hizo estas declaraciones muy cerca de la exitosa prueba de Nerehta, un vehículo terrestre ruso sin tripulación que, según se informa, "superó a los vehículos de combate [tripulados] existentes". Rusia planea usar Nerehta como una plataforma de investigación y desarrollo para IA y algún día podría implementar el sistema en combate, recopilación de inteligencia o funciones logísticas. [31] Según se informa, Rusia también ha construido un módulo de combate para vehículos terrestres sin tripulación que es capaz de identificar objetivos de forma autónoma (y, potencialmente, atacarlos) y planea desarrollar un conjunto de sistemas autónomos habilitados para IA. [32] [33] [29]
Además, el ejército ruso planea incorporar IA en vehículos aéreos, navales y submarinos sin tripulación y actualmente está desarrollando capacidades de enjambre. [28] También está explorando usos innovadores de la IA para la teledetección y la guerra electrónica, incluidos saltos de frecuencia adaptativos, formas de onda y contramedidas. [34] [35] Rusia también ha hecho un uso extensivo de las tecnologías de IA para la propaganda y la vigilancia interna, así como para operaciones de información dirigidas contra Estados Unidos y sus aliados. [36] [37] [29]
El gobierno ruso ha rechazado firmemente cualquier prohibición de sistemas de armas autónomas letales , sugiriendo que una prohibición internacional de ese tipo podría ser ignorada. [38] [39]
China está siguiendo una política estratégica de fusión militar-civil en IA para la supremacía tecnológica global . [18] [40] Según un informe de febrero de 2019 de Gregory C. Allen del Centro para una Nueva Seguridad Estadounidense , el liderazgo de China , incluido el líder supremo Xi Jinping , cree que estar a la vanguardia en tecnología de IA es fundamental para el futuro de la competencia mundial por el poder militar y económico. [7] Los funcionarios militares chinos han dicho que su objetivo es incorporar tecnología de IA comercial para "reducir la brecha entre el ejército chino y las potencias avanzadas globales". [7] Los estrechos vínculos entre Silicon Valley y China, y la naturaleza abierta de la comunidad de investigación estadounidense, han hecho que la tecnología de IA más avanzada de Occidente esté fácilmente disponible para China; Además, la industria china tiene numerosos logros propios en materia de IA, como el hecho de que Baidu haya superado un notable punto de referencia en materia de capacidad de reconocimiento de voz en chino en 2015. [41] A partir de 2017, la hoja de ruta de Pekín tiene como objetivo crear una industria de IA de 150.000 millones de dólares para 2030. [11] Antes de 2013, las adquisiciones de defensa chinas estaban restringidas principalmente a unos pocos conglomerados; sin embargo, a partir de 2017, China suele obtener tecnología emergente sensible, como drones e inteligencia artificial, de empresas privadas de nueva creación. [42] Un informe de octubre de 2021 del Centro de Seguridad y Tecnología Emergente concluyó que "la mayoría de los proveedores de equipos de IA [del ejército chino] no son empresas de defensa estatales, sino empresas tecnológicas privadas chinas fundadas después de 2010" . [43] El informe estimó que el gasto militar chino en IA superaba los 1.600 millones de dólares cada año. [43] El Japan Times informó en 2018 que la inversión privada china anual en IA es inferior a 7.000 millones de dólares al año. Las empresas emergentes de IA en China recibieron casi la mitad de la inversión global total en empresas emergentes de IA en 2017; los chinos solicitaron casi cinco veces más patentes de IA que los estadounidenses. [44]
En 2016, China publicó un documento de posición en el que cuestionaba la idoneidad del derecho internacional vigente para abordar la eventualidad de armas totalmente autónomas, convirtiéndose en el primer miembro permanente del Consejo de Seguridad de las Naciones Unidas en abordar el tema. [45] En 2018, Xi pidió una mayor cooperación internacional en la investigación básica sobre inteligencia artificial. [46] Los funcionarios chinos han expresado su preocupación por que la inteligencia artificial, como los drones, pueda conducir a una guerra accidental, especialmente en ausencia de normas internacionales. [47] En 2019, el exsecretario de Defensa de los Estados Unidos, Mark Esper, arremetió contra China por vender drones capaces de quitar vidas sin supervisión humana. [48]
.jpg/1280px-Sea_Hunter_gets_underway_on_the_Willamette_River_following_a_christening_ceremony_in_Portland,_Ore._(25702146834).jpg)
En 2014, el exsecretario de Defensa Chuck Hagel postuló la " Estrategia de Tercera Compensación " según la cual los rápidos avances en inteligencia artificial definirán la próxima generación de guerra. [49] Según la firma de ciencia de datos y análisis Govini, el Departamento de Defensa de los EE. UU. (DoD) aumentó la inversión en inteligencia artificial, big data y computación en la nube de $ 5.6 mil millones en 2011 a $ 7.4 mil millones en 2016. [50] Sin embargo, el presupuesto civil de la NSF para IA no aumentó en 2017. [11] Japan Times informó en 2018 que la inversión privada de los Estados Unidos es de alrededor de $ 70 mil millones por año. [44] El 'Informe provisional' de noviembre de 2019 de la Comisión de Seguridad Nacional de los Estados Unidos sobre Inteligencia Artificial confirmó que la IA es fundamental para la superioridad militar tecnológica de EE. UU. [18]
Estados Unidos tiene muchos programas militares de combate con inteligencia artificial, como el buque de guerra autónomo Sea Hunter , que está diseñado para operar durante períodos prolongados en el mar sin un solo miembro de la tripulación, e incluso para guiarse a sí mismo dentro y fuera del puerto. [23] Desde 2017, una directiva temporal del Departamento de Defensa de Estados Unidos requiere que se mantenga a un operador humano informado cuando se trate de la eliminación de vidas humanas por parte de sistemas de armas autónomas. [51] El 31 de octubre de 2019, la Junta de Innovación de Defensa del Departamento de Defensa de Estados Unidos publicó el borrador de un informe que recomienda principios para el uso ético de la inteligencia artificial por parte del Departamento de Defensa que garantizarían que un operador humano siempre pudiera mirar dentro de la "caja negra" y comprender el proceso de la cadena de muerte . Sin embargo, una preocupación importante es cómo se implementará el informe. [52]
El Centro Conjunto de Inteligencia Artificial (JAIC) (pronunciado "jake") [53] es una organización estadounidense dedicada a explorar el uso de la IA (en particular la informática de borde ), la red de redes y la comunicación mejorada por IA, para su uso en combate real. [54] [55] [56] [57] Es una subdivisión de las Fuerzas Armadas de los Estados Unidos y se creó en junio de 2018. El objetivo declarado de la organización es "transformar el Departamento de Defensa de los EE. UU. acelerando la entrega y adopción de IA para lograr un impacto en la misión a escala. El objetivo es utilizar la IA para resolver conjuntos de problemas grandes y complejos que abarcan múltiples sistemas de combate; luego, garantizar que los sistemas y componentes de combate tengan acceso en tiempo real a bibliotecas de conjuntos de datos y herramientas en constante mejora". [55]
En 2023, Microsoft propuso al Departamento de Defensa utilizar modelos DALL-E para entrenar su sistema de gestión del campo de batalla . [58] OpenAI , el desarrollador de DALL-E, eliminó la prohibición general del uso militar y de guerra de sus políticas de uso en enero de 2024. [59]
El Proyecto Maven es un proyecto del Pentágono que implica el uso de aprendizaje automático y talento de ingeniería para distinguir personas y objetos en videos de drones, [60] aparentemente dando al gobierno comando y control del campo de batalla en tiempo real, y la capacidad de rastrear, etiquetar y espiar objetivos sin participación humana. Inicialmente, el esfuerzo fue liderado por Robert O. Work , quien estaba preocupado por el uso militar de China de la tecnología emergente. [61] Según se informa, el desarrollo del Pentágono no llega a actuar como un sistema de armas de IA capaz de disparar contra objetivos autodesignados. [62] El proyecto fue establecido en un memorando del Subsecretario de Defensa de los EE. UU. el 26 de abril de 2017. [63] También conocido como el Equipo Interfuncional de Guerra Algorítmica , [64] es, según el Teniente General de la Fuerza Aérea de los Estados Unidos Jack Shanahan en noviembre de 2017, un proyecto "diseñado para ser ese proyecto piloto, ese pionero, esa chispa que enciende el frente de llama de la inteligencia artificial en el resto del Departamento [de Defensa]". [65] Su jefe, el coronel del Cuerpo de Marines de los EE. UU. Drew Cukor, dijo: "Las personas y las computadoras trabajarán simbióticamente para aumentar la capacidad de los sistemas de armas para detectar objetos". [66] El Proyecto Maven ha sido destacado por aliados, como el australiano Ian Langford , por la capacidad de identificar adversarios mediante la recolección de datos de sensores en vehículos aéreos no tripulados y satélites. [67] En la segunda Cumbre de Defensa One Tech en julio de 2017, Cukor también dijo que la inversión en un "proceso de flujo de trabajo deliberado" fue financiada por el Departamento [de Defensa] a través de sus "autoridades de adquisición rápida" durante aproximadamente "los próximos 36 meses". [68]
En 2015, el gobierno del Reino Unido se opuso a la prohibición de las armas autónomas letales, afirmando que "el derecho internacional humanitario ya proporciona suficiente regulación en esta área", pero que todas las armas empleadas por las fuerzas armadas del Reino Unido estarían "bajo supervisión y control humanos". [69]
Israel hace un uso extensivo de la IA para aplicaciones militares, especialmente durante la guerra entre Israel y Hamás . Los principales sistemas de IA utilizados para la identificación de objetivos son Gospel y Lavender. Lavender, desarrollado por la Unidad 8200, identifica y crea una base de datos de individuos, en su mayoría militantes de bajo rango de Hamás y la Jihad Islámica Palestina, y tiene una tasa de precisión del 90% y una base de datos de decenas de miles. Gospel, en las comparaciones, recomendó edificios y estructuras en lugar de individuos. Los miembros de las FDI deciden el daño colateral aceptable y el tipo de arma utilizada para eliminar el objetivo y podría rastrear a los militantes incluso cuando están en casa. [70]
El dron antirradar israelí Harpy , del tipo "dispara y olvida", está diseñado para ser lanzado por tropas terrestres y volar de forma autónoma sobre un área para encontrar y destruir un radar que se ajuste a criterios predeterminados. [71] También se espera que la aplicación de inteligencia artificial avance en sistemas terrestres sin tripulación y vehículos robóticos como el Guardium MK III y versiones posteriores. [72] Estos vehículos robóticos se utilizan en la defensa de fronteras.
La ametralladora surcoreana Super aEgis II , presentada en 2010, se utiliza tanto en Corea del Sur como en Oriente Medio. Puede identificar, rastrear y destruir un objetivo en movimiento a una distancia de 4 km. Si bien la tecnología puede funcionar teóricamente sin intervención humana, en la práctica se instalan salvaguardas que requieren la intervención manual. Un fabricante surcoreano afirma: "Nuestras armas no duermen, como deben hacerlo los humanos. Pueden ver en la oscuridad, algo que los humanos no pueden hacer. Nuestra tecnología, por tanto, llena los vacíos de la capacidad humana", y quieren "llegar a un punto en el que nuestro software pueda discernir si un objetivo es amigo, enemigo, civil o militar". [73]
El Parlamento Europeo mantiene la postura de que los seres humanos deben tener poder de supervisión y toma de decisiones sobre las armas autónomas letales. [74] Sin embargo, cada estado miembro de la Unión Europea debe determinar su postura sobre el uso de armas autónomas y las posturas mixtas de los estados miembros son quizás el mayor obstáculo a la capacidad de la Unión Europea para desarrollar armas autónomas. Algunos miembros, como Francia, Alemania, Italia y Suecia, están desarrollando armas autónomas letales. Algunos miembros siguen indecisos sobre el uso de armas militares autónomas y Austria incluso ha pedido que se prohíba el uso de dichas armas. [75]
Algunos Estados miembros de la UE han desarrollado y están desarrollando armas automatizadas. Alemania ha desarrollado un sistema de protección activa , el Sistema de Defensa Activa, que puede responder a una amenaza con total autonomía en menos de un milisegundo. [75] [76] Italia planea incorporar sistemas de armas autónomas en sus futuros planes militares. [75]
La regulación internacional de las armas autónomas es un tema emergente para el derecho internacional. [77] El control de las armas de IA probablemente requerirá la institucionalización de nuevas normas internacionales incorporadas en especificaciones técnicas efectivas combinadas con un monitoreo activo y diplomacia informal por parte de comunidades de expertos, junto con un proceso de verificación legal y política. [1] [2] Ya en 2007, académicos como el profesor de IA Noel Sharkey han advertido sobre "una carrera armamentista emergente entre las naciones de alta tecnología para desarrollar submarinos autónomos, aviones de combate, acorazados y tanques que puedan encontrar sus propios objetivos y aplicar fuerza violenta sin la participación de decisiones humanas significativas". [78] [79]
Miles Brundage, de la Universidad de Oxford, ha sostenido que la carrera armamentista de la IA podría mitigarse en cierta medida mediante la diplomacia: "Hemos visto en las diversas carreras armamentistas históricas que la colaboración y el diálogo pueden dar sus frutos". [80] Más de cien expertos firmaron una carta abierta en 2017 pidiendo a la ONU que abordara la cuestión de las armas autónomas letales; [81] [82] Sin embargo, en una sesión de noviembre de 2017 de la Convención de la ONU sobre Ciertas Armas Convencionales (CCW), los diplomáticos no pudieron ponerse de acuerdo ni siquiera sobre cómo definir dichas armas. [83] El embajador indio y presidente de la CCW declaró que el acuerdo sobre las normas seguía siendo una perspectiva lejana. [84] En 2019, 26 jefes de Estado y 21 premios Nobel de la Paz han respaldado la prohibición de las armas autónomas. [85] Sin embargo, en 2022, la mayoría de las grandes potencias siguen oponiéndose a la prohibición de las armas autónomas. [86]
Muchos expertos creen que los intentos de prohibir por completo los robots asesinos probablemente fracasarán, [87] en parte porque detectar violaciones de los tratados sería extremadamente difícil. [88] [89] Un informe de 2017 del Centro Belfer de Harvard predice que la IA tiene el potencial de ser tan transformadora como las armas nucleares. [80] [90] [91] El informe sostiene además que "es probable que sea imposible evitar un uso militar ampliado de la IA" y que "se debe perseguir el objetivo más modesto de una gestión segura y eficaz de la tecnología", como prohibir la conexión de un interruptor de hombre muerto de IA a un arsenal nuclear. [91]
Una carta abierta de 2015 del Future of Life Institute pidiendo la prohibición de los sistemas de armas autónomas letales ha sido firmada por más de 26.000 ciudadanos, entre ellos el físico Stephen Hawking , el magnate de Tesla Elon Musk , Steve Wozniak de Apple y el cofundador de Twitter Jack Dorsey , y más de 4.600 investigadores de inteligencia artificial, entre ellos Stuart Russell , Bart Selman y Francesca Rossi . [92] [83] El Future of Life Institute también ha estrenado dos películas de ficción, Slaughterbots (2017) y Slaughterbots - if human: kill() (2021), que retratan las amenazas de las armas autónomas y promueven su prohibición, ambas se volvieron virales.
El profesor Noel Sharkey, de la Universidad de Sheffield, sostiene que las armas autónomas caerán inevitablemente en manos de grupos terroristas como el Estado Islámico . [93]
Muchas empresas tecnológicas occidentales evitan asociarse demasiado estrechamente con el ejército estadounidense por temor a perder el acceso al mercado chino. [41] Además, algunos investigadores, como el director ejecutivo de DeepMind, Demis Hassabis , se oponen ideológicamente a contribuir al trabajo militar. [94]
Por ejemplo, en junio de 2018, fuentes de la compañía Google dijeron que la alta ejecutiva Diane Greene le dijo al personal que la compañía no daría seguimiento al Proyecto Maven después de que el contrato actual expirara en marzo de 2019. [60]
Este artículo incorpora texto de esta fuente, que se encuentra en el dominio público .{{cite web}}: CS1 maint: varios nombres: lista de autores ( enlace )Varios estados, incluidos Estados Unidos, Rusia, el Reino Unido, India e Israel, se opusieron a cualquier restricción legalmente vinculante... China ha apoyado un acuerdo legal vinculante en la CCW, pero también ha buscado definir las armas autónomas de manera tan estricta que gran parte del equipo militar habilitado con IA que está desarrollando actualmente quedaría fuera del alcance de dicha prohibición.