Resisting AI: An Anti-fascist Approach to Artificial Intelligence es un libro sobre inteligencia artificial (IA) de Dan McQuillan, publicado en 2022 por Bristol University Press .
La resistencia a la IA adopta la forma de un ensayo extenso [1] , que contrasta las visiones optimistas sobre el potencial de la IA al argumentar que la IA puede ser mejor vista como una continuación y refuerzo de las formas burocráticas de discriminación y violencia, que en última instancia fomentan resultados autoritarios. [2] Para McQuillan, la promesa de la IA de calculabilidad objetiva es antitética a una sociedad igualitaria y justa. [3] [4] McQuillan usa la expresión "violencia de la IA" para describir cómo, basándose en algoritmos opacos, varios actores pueden discriminar a categorías de personas en el acceso a empleos, préstamos, atención médica y otros beneficios. [2]
El libro sugiere que la IA tiene una resonancia política con los enfoques eugenésicos suaves sobre la valoración de la vida por parte de los estados de bienestar modernos, [5] y que la IA exhibe características eugenésicas en su lógica subyacente, así como en sus operaciones técnicas. [5] El paralelo es con los eugenistas históricos que lograron salvar al estado esterilizando a los defectuosos para que el estado no tuviera que cuidar de su descendencia. [5]
El análisis de McQuillan va más allá de la conocida crítica de los sistemas de IA que fomentan mercados laborales precarios, abordando la "necropolítica", la política de quién tiene derecho a vivir y quién a morir. [2] [6] Aunque McQuillan ofrece una breve historia del aprendizaje automático al comienzo del libro -con su necesidad de "trabajo oculto y mal remunerado", [6] se preocupa más por los impactos sociales de la IA que por sus aspectos técnicos. [7] [6] McQuillan ve a la IA como la continuación de los sistemas burocráticos existentes que ya marginan a los grupos vulnerables, agravados por el hecho de que los sistemas de IA entrenados con datos existentes probablemente refuercen las discriminaciones existentes, por ejemplo, al intentar optimizar la distribución del bienestar en función de patrones de datos existentes, [7] creando en última instancia un sistema de "perfiles sociales que se refuerzan a sí mismos". [8]
Al desarrollar la relación entre la violencia burocrática existente y la IA, McQuillan se conecta con el concepto de burócrata irreflexivo de Hannah Arendt en Eichmann en Jerusalén: Informe sobre la banalidad del mal , que ahora se convierte en el algoritmo que, al carecer de intención, no puede rendir cuentas y, por lo tanto, está dotado de una "irreflexión algorítmica". [9]
McQuillan defiende el término “fascista” en el título de la obra argumentando que, si bien no toda la IA es fascista, esta tecnología emergente de control puede terminar siendo implementada por regímenes fascistas o autoritarios. [10] Para McQuillan, la IA puede apoyar la difusión de estados de excepción , como una tecnología imposible de regular adecuadamente y un mecanismo para multiplicar las excepciones de manera más amplia. Un ejemplo de un escenario en el que los sistemas de vigilancia con IA podrían llevar la discriminación a un nuevo nivel es la iniciativa de crear zonas libres de LGBT en Polonia. [11] [7]
Escéptico de las regulaciones éticas para controlar la tecnología, McQuillan sugiere consejos populares y consejos de trabajadores, y otras formas de agencia ciudadana para resistir a la IA. [7] Un capítulo titulado "Post-Machine Learning" hace un llamamiento a la resistencia a través de corrientes de pensamiento de la ciencia feminista ( teoría del punto de vista ), la ciencia postnormal ( comunidades de pares extendidas ) y el nuevo materialismo ; McQuillan anima al lector a cuestionar el significado de la "objetividad" y pide la necesidad de formas alternativas de conocimiento. [12] Entre los ejemplos virtuosos de resistencia -posiblemente adoptados por los propios trabajadores de la IA- McQuillan señala [13] el Plan Lucas de los trabajadores de Lucas Aerospace Corporation , [14] en el que una fuerza laboral declarada redundante tomó el control, reorientando la empresa hacia productos útiles. [10]
La obra de McQuillan [15]
advierte contra "formas diluidas de compromiso" con la IA, como los jurados ciudadanos, que superficialmente parecen deliberación democrática pero en realidad pueden oscurecer decisiones importantes sobre la IA que están fuera del ámbito de la situación de compromiso (McQuillan 2022, 128).
En una entrevista sobre el libro, McQuillan se define a sí mismo como un "abolicionista de la IA". [16]
El libro es elogiado por "desmantelar magistralmente la IA como paradigma epistemológico, social y político" [17] y por su examen de cómo la mayoría de los datos que se introducen en la "infraestructura de IA privatizada" son "amputados" [18] del contexto o la experiencia encarnada y, en última instancia, procesados a través del crowdsourcing".
En el lado crítico, una reseña en la revista académica Justice, Power and Resistance criticó las "visiones de pesadilla del Gran Hermano" ofrecidas por McQuillan y sostuvo que si bien muchos elementos de la IA pueden ser preocupantes, una crítica no debería basarse en una caricatura de lo que es la IA, y concluyó que el trabajo de McQuillan es "menos una teoría y más un Manifiesto". [3] Otra reseña señala "una desconexión entre los aspectos técnicos de la IA y el análisis sociopolítico que ofrece McQuillan". [7]
Aunque el libro se publicó antes de que se intensificara el debate sobre ChatGPT y los modelos de lenguaje a gran escala , no ha perdido relevancia para el debate sobre la IA . [19] Se destaca [20] por sugerir un vínculo entre las creencias en la inteligencia artificial y las creencias en una visión racializada y de género de la inteligencia en general, por la cual se privilegia un cierto tipo de inteligencia racional y medible, lo que conduce a "nociones históricas de jerarquías del ser". [21]
El blog Reboot elogió a McQuillan por ofrecer una teoría del daño de la IA (por qué la IA podría terminar dañando a las personas y a la sociedad) que no solo alienta a abordar de forma aislada problemas específicos previstos con los sistemas centrados en la IA: sesgo, falta de inclusión, explotación, destrucción ambiental, opacidad y no contestabilidad. [12]
Para [22] las políticas educativas también podrían considerar la IA siguiendo la lectura de McQuillan:
En su libro Resisting AI (Resistiendo la IA), Dan McQuillan sostiene que "cuando pensamos en la realidad de la IA, no podemos separar los cálculos del código del contexto social de su aplicación"... La preocupación particular de McQuillan es cómo muchas aplicaciones contemporáneas de la IA están amplificando las desigualdades e injusticias existentes, así como profundizando las divisiones e inestabilidades sociales. Su libro presenta argumentos contundentes para anticipar estos efectos y resistirlos activamente por el bien de las sociedades.
Videos [19] [23] y podcasts [1] [24] [25] con interés en IA y tecnología emergente han discutido el libro.