Las armas letales autónomas ( LAW ) son un tipo de sistema militar autónomo que puede buscar y atacar objetivos de forma independiente según restricciones y descripciones programadas. Las LAW también se conocen como sistemas letales de armas autónomas (LAWS), sistemas de armas autónomas (AWS), armas robóticas o robots asesinos . Las LEYES pueden operar en el aire, en la tierra, en el agua, bajo el agua o en el espacio. La autonomía de los sistemas actuales a partir de 2018 [actualizar]estaba restringida en el sentido de que un humano da la orden final para atacar, aunque existen excepciones con ciertos sistemas "defensivos".
Ser "autónomo" tiene diferentes significados en diferentes campos de estudio. En términos de desarrollo de armas militares, la identificación de un arma como autónoma no es tan clara como en otras áreas. [1] El estándar específico que implica el concepto de ser autónomo puede variar enormemente entre diferentes académicos, naciones y organizaciones.
Varias personas tienen muchas definiciones de lo que constituye un arma letal autónoma. La Política oficial del Departamento de Defensa de los Estados Unidos sobre autonomía en sistemas de armas define un sistema de armas autónomo como "un sistema de armas que, una vez activado, puede seleccionar y atacar objetivos sin mayor intervención de un operador humano". [2] Heather Roff, escritora de la Facultad de Derecho de la Universidad Case Western Reserve , describe los sistemas de armas autónomos como "sistemas de armas armadas, capaces de aprender y adaptar su funcionamiento en respuesta a circunstancias cambiantes en el entorno en el que [están] desplegados". ,' además de ser capaz de tomar decisiones de despido por sí solos". [3] Esta definición de sistemas de armas autónomos es un umbral bastante alto en comparación con las definiciones de académicos como las definiciones de Peter Asaro y Mark Gubrud que se ven a continuación.
Académicos como Peter Asaro y Mark Gubrud están tratando de establecer un umbral más bajo y juzgar más sistemas de armas como autónomos. Creen que cualquier sistema de armas que sea capaz de liberar una fuerza letal sin la operación, decisión o confirmación de un supervisor humano puede considerarse autónomo. Según Gubrud, un sistema de armas que funciona total o parcialmente sin intervención humana se considera autónomo. Sostiene que un sistema de armas no necesita poder tomar decisiones completamente por sí solo para ser llamado autónomo. En cambio, debería tratarse como autónomo siempre que participe activamente en una o varias partes del "proceso de preparación", desde encontrar el objetivo hasta finalmente disparar. [4] [5]
Otras organizaciones, sin embargo, están elevando el estándar de los sistemas de armas autónomos. El Ministerio de Defensa británico define los sistemas de armas autónomos como "sistemas que son capaces de comprender la intención y la dirección de un nivel superior. A partir de esta comprensión y su percepción de su entorno, dicho sistema es capaz de tomar las medidas adecuadas para lograr el estado deseado. es capaz de decidir un curso de acción, entre una serie de alternativas, sin depender de la supervisión y el control humanos (aunque esa interacción humana con el sistema aún puede estar presente. Si bien la actividad general de una aeronave no tripulada autónoma será predecible, cada individuo las acciones pueden no serlo." [6]
Como resultado, la composición de un tratado entre estados requiere una etiqueta comúnmente aceptada de lo que constituye exactamente un arma autónoma. [7]
El arma letal de disparo automático más antigua es la mina terrestre , utilizada al menos desde el siglo XVII, y las minas navales , utilizadas al menos desde el siglo XVIII. Las minas antipersonal están prohibidas en muchos países por el Tratado de Ottawa de 1997 , sin incluir a Estados Unidos, Rusia y gran parte de Asia y Medio Oriente.
Algunos ejemplos actuales de LAW son los sistemas automatizados de protección activa "hardkill" , como los sistemas CIWS guiados por radar utilizados para defender barcos que han estado en uso desde la década de 1970 (por ejemplo, el Phalanx CIWS de EE. UU .). Dichos sistemas pueden identificar y atacar de forma autónoma misiles, cohetes, fuego de artillería, aviones y buques de superficie que se aproximan según criterios establecidos por el operador humano. Existen sistemas similares para tanques, como el Russian Arena , el Israel Trophy y el alemán AMAP-ADS . En Corea del Sur e Israel se utilizan varios tipos de armas centinela estacionarias, que pueden disparar contra personas y vehículos. Muchos sistemas de defensa antimisiles , como Iron Dome , también tienen capacidades de orientación autónoma.
La razón principal para no tener un " humano al tanto " en estos sistemas es la necesidad de una respuesta rápida. Generalmente se han utilizado para proteger al personal y las instalaciones contra los proyectiles entrantes.
Según The Economist , a medida que avanza la tecnología, las aplicaciones futuras de los vehículos submarinos no tripulados podrían incluir la remoción de minas, la colocación de minas, la conexión en red de sensores antisubmarinos en aguas en disputa, el patrullaje con sonar activo, el reabastecimiento de submarinos tripulados y convertirse en plataformas de misiles de bajo costo. [8] En 2018, la Revisión de la Postura Nuclear de EE. UU . alegó que Rusia estaba desarrollando un "nuevo torpedo autónomo submarino, intercontinental, con armas nucleares y propulsión nuclear" llamado " Status 6 ". [9]
La Federación de Rusia está desarrollando activamente misiles con inteligencia artificial , [10] drones , [11] vehículos no tripulados , robots militares y robots médicos. [12] [13] [14] [15]
El ministro israelí Ayoob Kara declaró en 2017 que Israel está desarrollando robots militares, incluidos algunos tan pequeños como moscas. [dieciséis]
En octubre de 2018, Zeng Yi, un alto ejecutivo de la empresa de defensa china Norinco , pronunció un discurso en el que dijo que "en los futuros campos de batalla, no habrá gente luchando", y que el uso de armas autónomas letales en la guerra es " inevitable". [17] En 2019, el secretario de Defensa de Estados Unidos, Mark Esper, arremetió contra China por vender drones capaces de quitar vidas sin supervisión humana. [18]
El ejército británico desplegó nuevos vehículos no tripulados y robots militares en 2019. [19]
La Marina de los EE. UU. está desarrollando flotas "fantasmas" de barcos no tripulados . [20]
En 2020, un dron Kargu 2 persiguió y atacó a un objetivo humano en Libia , según un informe del Panel de Expertos sobre Libia del Consejo de Seguridad de la ONU , publicado en marzo de 2021. Esta puede haber sido la primera vez que un robot asesino autónomo armado con armamento letal atacaron a seres humanos. [21] [22]
En mayo de 2021, Israel llevó a cabo un ataque de enjambre de drones de combate guiados por IA en Gaza. [23]
Desde entonces ha habido numerosos informes sobre el uso de enjambres y otros sistemas de armas autónomos en campos de batalla de todo el mundo. [24]
Además, DARPA está trabajando para poner a disposición del ejército estadounidense enjambres de 250 drones letales autónomos. [25]
Bonnie Docherty estableció tres clasificaciones del grado de control humano de los sistemas de armas autónomos en un informe de Human Rights Watch de 2012 . [26]
La política actual de Estados Unidos establece: "Los sistemas de armas autónomos... deberán diseñarse para permitir a los comandantes y operadores ejercer niveles apropiados de juicio humano sobre el uso de la fuerza". [27] Sin embargo, la política requiere que los sistemas de armas autónomos que matan personas o usan fuerza cinética, seleccionando y atacando objetivos sin mayor intervención humana, sean certificados como conformes con "niveles apropiados" y otros estándares, no que dichos sistemas de armas no puedan cumplir con estos estándares y por lo tanto están prohibidos. [28] Los cazadores-asesinos "semiautónomos" que identifican y atacan objetivos de forma autónoma ni siquiera requieren certificación. [28] El subsecretario de Defensa, Robert O. Work, dijo en 2016 que el Departamento de Defensa "no delegaría autoridad letal a una máquina para tomar una decisión", pero podría necesitar reconsiderar esto ya que los "regímenes autoritarios" pueden hacerlo. [29] En octubre de 2016, el presidente Barack Obama declaró que al principio de su carrera temía un futuro en el que un presidente estadounidense que hiciera uso de la guerra con drones pudiera "llevar a cabo guerras perpetuas en todo el mundo, y muchas de ellas encubiertas, sin cualquier rendición de cuentas o debate democrático". [30] [31] En los EE. UU., la IA relacionada con la seguridad ha caído bajo el ámbito de la Comisión de Seguridad Nacional sobre Inteligencia Artificial desde 2018. [32] [33] El 31 de octubre de 2019, el Departamento de Innovación en Defensa del Departamento de Defensa de los Estados Unidos La Junta publicó el borrador de un informe que describe cinco principios para la IA armada y hace 12 recomendaciones para el uso ético de la inteligencia artificial por parte del Departamento de Defensa que garantizarían que un operador humano siempre pudiera mirar dentro de la "caja negra" y comprender el proceso de cadena de destrucción. Una preocupación importante es cómo se implementará el informe. [34]
Stuart Russell , profesor de informática de la Universidad de California en Berkeley, afirmó que la preocupación que tiene con las LEYES es que, en su opinión, son poco éticas e inhumanas. El principal problema de este sistema es que resulta difícil distinguir entre combatientes y no combatientes. [35]
A algunos economistas [36] y juristas les preocupa si las LEYes violarían el Derecho Internacional Humanitario , especialmente el principio de distinción, que requiere la capacidad de discriminar a los combatientes de los no combatientes, y el principio de proporcionalidad , que requiere que el daño a civiles sea proporcional al objetivo militar. [37] Esta preocupación se invoca a menudo como una razón para prohibir por completo los "robots asesinos", pero es dudoso que esta preocupación pueda ser un argumento contra las LEYES que no violan el Derecho Internacional Humanitario. [38] [39] [40]
Un informe de 2021 del Servicio de Investigación del Congreso de Estados Unidos afirma que "no existen prohibiciones legales nacionales o internacionales sobre el desarrollo del uso de LEYes", aunque reconoce las conversaciones en curso en la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales (CAC). [41]
Algunos dicen que las LEYES desdibujan los límites de quién es responsable de un asesinato en particular. [42] [36] El filósofo Robert Sparrow sostiene que las armas autónomas son causalmente, pero no moralmente, responsables, similares a los niños soldados. En cada caso, sostiene que existe el riesgo de que se produzcan atrocidades sin un sujeto adecuado al que responsabilizar, lo que viola el jus in bello . [43] Thomas Simpson y Vincent Müller sostienen que pueden facilitar el registro de quién dio qué orden. [44] Asimismo, Steven Umbrello, Émile P. Torres y Angelo F. De Bellis sostienen que si las capacidades técnicas de las LEYes son al menos tan precisas como las de los soldados humanos, entonces, dadas las deficiencias psicológicas de los soldados humanos en la guerra, se justifica que solo estos tipos Se deben utilizar LEYES éticas. Asimismo, proponen utilizar el enfoque de diseño sensible a los valores como un marco potencial para diseñar estas leyes de manera que se alineen con los valores humanos y el Derecho Internacional Humanitario . [39] Además, las posibles violaciones del DIH por LEY son –por definición– sólo aplicables en situaciones de conflicto que implican la necesidad de distinguir entre combatientes y civiles. Como tal, cualquier escenario de conflicto sin la presencia de civiles –es decir, en el espacio o en los mares profundos– no tropezaría con los obstáculos que plantea el DIH. [45]
La posibilidad de que existan LEYes ha generado un importante debate, especialmente sobre el riesgo de que "robots asesinos" deambulen por la Tierra, en un futuro cercano o lejano. El grupo Campaign to Stop Killer Robots se formó en 2013. En julio de 2015, más de 1.000 expertos en inteligencia artificial firmaron una carta advirtiendo sobre la amenaza de una carrera armamentista de inteligencia artificial y pidiendo la prohibición de las armas autónomas . La carta fue presentada en Buenos Aires en la 24ª Conferencia Internacional Conjunta sobre Inteligencia Artificial (IJCAI-15) y fue firmada conjuntamente por Stephen Hawking , Elon Musk , Steve Wozniak , Noam Chomsky , el cofundador de Skype , Jaan Tallinn , y el cofundador de Google DeepMind. fundador Demis Hassabis , entre otros. [46] [47]
Según PAX For Peace (una de las organizaciones fundadoras de la Campaña para detener los robots asesinos), las armas totalmente automatizadas (FAW) reducirán el umbral para ir a la guerra a medida que los soldados sean retirados del campo de batalla y el público se distancie de experimentar la guerra. dando a los políticos y otros tomadores de decisiones más espacio para decidir cuándo y cómo ir a la guerra. [48] Advierten que una vez desplegados, los FAW harán más difícil el control democrático de la guerra - algo que el autor de Kill Decision - una novela sobre el tema - y el especialista en TI Daniel Suárez también advirtieron: según él, podría recentralizar el poder en sectores muy pocas manos al requerir que muy pocas personas vayan a la guerra. [48]
Hay sitios web [ se necesita aclaración ] que protestan contra el desarrollo de LEYES presentando ramificaciones indeseables si continúa la investigación sobre la aplicación de la inteligencia artificial a la designación de armas. En estos sitios web, las noticias sobre cuestiones éticas y legales se actualizan constantemente para que los visitantes las repasen con noticias recientes sobre reuniones internacionales y artículos de investigación relacionados con las LEYES. [49]
La Santa Sede ha pedido a la comunidad internacional que prohíba el uso de LEYes en varias ocasiones. En noviembre de 2018, el arzobispo Ivan Jurkovic , observador permanente de la Santa Sede ante las Naciones Unidas, afirmó que “para prevenir una carrera armamentista y el aumento de las desigualdades y la inestabilidad, es un deber imperativo actuar con prontitud: ahora es el momento de Es hora de evitar que las LEYES se conviertan en la realidad de la guerra del mañana”. A la Iglesia le preocupa que estos sistemas de armas tengan la capacidad de alterar irreversiblemente la naturaleza de la guerra, crear un desapego de la acción humana y poner en duda la humanidad de las sociedades. [50]
El 29 de marzo de 2019 [actualizar], la mayoría de los gobiernos representados en una reunión de la ONU para discutir el asunto estaban a favor de una prohibición de las LEYES. [51] Una minoría de gobiernos, incluidos los de Australia, Israel, Rusia, el Reino Unido y los Estados Unidos, se opusieron a la prohibición. [51] Estados Unidos ha declarado que las armas autónomas han ayudado a prevenir la matanza de civiles. [52]
En diciembre de 2022, una votación de la Junta de Supervisores de San Francisco para autorizar el uso de LEYes por parte del Departamento de Policía de San Francisco atrajo atención y protestas a nivel nacional. [53] [54] La Junta revocó esta votación en una reunión posterior. [55]
Un tercer enfoque se centra en regular el uso de sistemas de armas autónomos en lugar de prohibirlos. [56] El control de armas militares de IA probablemente requerirá la institucionalización de nuevas normas internacionales plasmadas en especificaciones técnicas efectivas combinadas con un monitoreo activo y una diplomacia informal (“Track II”) por parte de comunidades de expertos, junto con un proceso de verificación legal y política. [57] [58] [59] [60] En 2021, el Departamento de Defensa de los Estados Unidos solicitó un diálogo con el Ejército Popular de Liberación de China sobre armas autónomas habilitadas para IA, pero fue rechazado. [61]
El 22 de diciembre de 2023, se adoptó una resolución de la Asamblea General de las Naciones Unidas para apoyar el debate internacional sobre las preocupaciones sobre las LEYES. La votación fue de 152 a favor, cuatro en contra y 11 abstenciones. [62]