La inteligencia artificial ( IA ), en su sentido más amplio, es la inteligencia exhibida por las máquinas , en particular los sistemas informáticos . Es un campo de investigación en informática que desarrolla y estudia métodos y software que permiten a las máquinas percibir su entorno y utilizar el aprendizaje y la inteligencia para tomar acciones que maximicen sus posibilidades de lograr objetivos definidos. [1] Estas máquinas pueden denominarse IA.
Algunas aplicaciones destacadas de la IA incluyen motores de búsqueda web avanzados (por ejemplo, la Búsqueda de Google ); sistemas de recomendación (utilizados por YouTube , Amazon y Netflix ); interactuar a través del habla humana (por ejemplo, Asistente de Google , Siri y Alexa ); vehículos autónomos (por ejemplo, Waymo ); herramientas generativas y creativas (por ejemplo, ChatGPT , Apple Intelligence y AI art ); y juego y análisis sobrehumanos en juegos de estrategia (por ejemplo, ajedrez y Go ). Sin embargo, muchas aplicaciones de IA no se perciben como IA: "Muchas IA de vanguardia se han filtrado en aplicaciones generales, a menudo sin llamarse IA porque una vez que algo se vuelve lo suficientemente útil y común ya no se llama IA ". [2] [3]
Alan Turing fue la primera persona en realizar una investigación sustancial en el campo que llamó "inteligencia artificial". [4] La inteligencia artificial fue fundada como disciplina académica en 1956, [5] por aquellos que ahora se consideran los padres fundadores de la IA: John McCarthy , Marvin Minksy , Nathaniel Rochester y Claude Shannon . [6] [7] El campo pasó por múltiples ciclos de optimismo, [8] [9] seguidos de períodos de decepción y pérdida de financiación, conocidos como invierno de IA . [10] [11] La financiación y el interés aumentaron enormemente después de 2012, cuando el aprendizaje profundo superó todas las técnicas de IA anteriores, [12] y después de 2017 con la arquitectura transformadora . [13] Esto condujo al auge de la IA a principios de la década de 2020, cuando empresas, universidades y laboratorios con sede abrumadoramente en los Estados Unidos fueron pioneros en avances significativos en inteligencia artificial . [14]
El uso creciente de la inteligencia artificial en el siglo XXI está influyendo en un cambio social y económico hacia una mayor automatización , la toma de decisiones basada en datos y la integración de sistemas de IA en diversos sectores económicos y áreas de la vida, lo que afecta a los mercados laborales , la atención sanitaria y el gobierno. , industria , educación , propaganda y desinformación . Esto plantea interrogantes sobre los efectos a largo plazo , las implicaciones éticas y los riesgos de la IA , lo que genera debates sobre políticas regulatorias para garantizar la seguridad y los beneficios de la tecnología .
Los diversos subcampos de la investigación de la IA se centran en objetivos particulares y el uso de herramientas particulares. Los objetivos tradicionales de la investigación en IA incluyen el razonamiento , la representación del conocimiento , la planificación , el aprendizaje , el procesamiento del lenguaje natural , la percepción y el apoyo a la robótica . [a] La inteligencia general , la capacidad de completar cualquier tarea que pueda realizar un ser humano al menos en un nivel igual, se encuentra entre los objetivos a largo plazo de este campo. [15]
Para alcanzar estos objetivos, los investigadores de IA han adaptado e integrado una amplia gama de técnicas, incluida la búsqueda y la optimización matemática , la lógica formal , las redes neuronales artificiales y los métodos basados en estadística , investigación de operaciones y economía . [b] La IA también se basa en la psicología , la lingüística , la filosofía , la neurociencia y otros campos. [16]
El problema general de simular (o crear) inteligencia se ha dividido en subproblemas. Estos consisten en rasgos o capacidades particulares que los investigadores esperan que muestre un sistema inteligente. Los rasgos que se describen a continuación han recibido la mayor atención y cubren el alcance de la investigación de la IA. [a]
Los primeros investigadores desarrollaron algoritmos que imitaban el razonamiento paso a paso que utilizan los humanos cuando resuelven acertijos o hacen deducciones lógicas . [17] A finales de los años 1980 y 1990, se desarrollaron métodos para tratar con información incierta o incompleta, empleando conceptos de probabilidad y economía . [18]
Muchos de estos algoritmos son insuficientes para resolver grandes problemas de razonamiento porque experimentan una "explosión combinatoria": se vuelven exponencialmente más lentos a medida que crecen los problemas. [19] Incluso los humanos rara vez utilizan la deducción paso a paso que las primeras investigaciones sobre IA podrían modelar. Resuelven la mayoría de sus problemas utilizando juicios rápidos e intuitivos. [20] El razonamiento preciso y eficiente es un problema sin resolver.
La representación del conocimiento y la ingeniería del conocimiento [21] permiten que los programas de inteligencia artificial respondan preguntas de manera inteligente y hagan deducciones sobre hechos del mundo real. Las representaciones de conocimiento formal se utilizan en la indexación y recuperación basada en contenido, [22] interpretación de escenas, [23] apoyo a decisiones clínicas, [24] descubrimiento de conocimiento (extracción de inferencias "interesantes" y procesables de grandes bases de datos ), [25] y otras áreas. . [26]
Una base de conocimientos es un conjunto de conocimientos representados en una forma que puede ser utilizada por un programa. Una ontología es el conjunto de objetos, relaciones, conceptos y propiedades utilizados por un dominio particular de conocimiento. [27] Las bases de conocimiento necesitan representar cosas como objetos, propiedades, categorías y relaciones entre objetos; [28] situaciones, eventos, estados y tiempo; [29] causas y efectos; [30] conocimiento sobre el conocimiento (lo que sabemos sobre lo que otras personas saben); [31] razonamiento predeterminado (cosas que los humanos suponen que son ciertas hasta que se las dice de manera diferente y seguirán siendo ciertas incluso cuando otros hechos cambien); [32] y muchos otros aspectos y dominios del conocimiento.
Entre los problemas más difíciles en la representación del conocimiento se encuentran la amplitud del conocimiento de sentido común (el conjunto de hechos atómicos que la persona promedio conoce es enorme); [33] y la forma subsimbólica de la mayor parte del conocimiento de sentido común (gran parte de lo que la gente sabe no se representa como "hechos" o "declaraciones" que puedan expresar verbalmente). [20] También está la dificultad de la adquisición de conocimientos , el problema de obtener conocimientos para aplicaciones de IA. [do]
Un "agente" es cualquier cosa que percibe y actúa en el mundo. Un agente racional tiene objetivos o preferencias y toma medidas para lograrlos. [d] [36] En la planificación automatizada , el agente tiene un objetivo específico. [37] En la toma de decisiones automatizada , el agente tiene preferencias: hay algunas situaciones en las que preferiría estar y otras que está tratando de evitar. El agente que toma las decisiones asigna un número a cada situación (llamado " utilidad ") que mide cuánto la prefiere el agente. Para cada acción posible, puede calcular la " utilidad esperada ": la utilidad de todos los resultados posibles de la acción, ponderada por la probabilidad de que se produzca el resultado. Luego puede elegir la acción con la máxima utilidad esperada. [38]
En la planificación clásica , el agente sabe exactamente cuál será el efecto de cualquier acción. [39] Sin embargo, en la mayoría de los problemas del mundo real, el agente puede no estar seguro de la situación en la que se encuentra (es "desconocida" o "no observable") y puede no saber con certeza qué sucederá después de cada acción posible ( no es "determinista"). Debe elegir una acción haciendo una suposición probabilística y luego reevaluar la situación para ver si la acción funcionó. [40]
En algunos problemas, las preferencias del agente pueden ser inciertas, especialmente si hay otros agentes o humanos involucrados. Estos pueden aprenderse (por ejemplo, con aprendizaje por refuerzo inverso ), o el agente puede buscar información para mejorar sus preferencias. [41] La teoría del valor de la información se puede utilizar para sopesar el valor de acciones exploratorias o experimentales. [42] El espacio de posibles acciones y situaciones futuras suele ser intratablemente grande, por lo que los agentes deben tomar acciones y evaluar situaciones sin estar seguros de cuál será el resultado.
Un proceso de decisión de Markov tiene un modelo de transición que describe la probabilidad de que una acción particular cambie el estado de una manera particular y una función de recompensa que proporciona la utilidad de cada estado y el costo de cada acción. Una política asocia una decisión a cada estado posible. La política podría calcularse (por ejemplo, mediante iteración ), ser heurística o aprenderse. [43]
La teoría de juegos describe el comportamiento racional de múltiples agentes que interactúan y se utiliza en programas de inteligencia artificial que toman decisiones que involucran a otros agentes. [44]
El aprendizaje automático es el estudio de programas que pueden mejorar su desempeño en una tarea determinada de forma automática. [45] Ha sido parte de la IA desde el principio. [mi]
Hay varios tipos de aprendizaje automático. El aprendizaje no supervisado analiza un flujo de datos, encuentra patrones y hace predicciones sin ninguna otra guía. [48] El aprendizaje supervisado requiere que un ser humano etiquete los datos de entrada primero, y se presenta en dos variedades principales: clasificación (donde el programa debe aprender a predecir a qué categoría pertenece la entrada) y regresión (donde el programa debe deducir una función numérica basada en en entrada numérica). [49]
En el aprendizaje por refuerzo , el agente es recompensado por las buenas respuestas y castigado por las malas. El agente aprende a elegir respuestas que se clasifican como "buenas". [50] El aprendizaje por transferencia es cuando el conocimiento adquirido de un problema se aplica a un nuevo problema. [51] El aprendizaje profundo es un tipo de aprendizaje automático que ejecuta entradas a través de redes neuronales artificiales de inspiración biológica para todos estos tipos de aprendizaje. [52]
La teoría del aprendizaje computacional puede evaluar a los alumnos por complejidad computacional , por complejidad de muestra (cuántos datos se requieren) o por otras nociones de optimización . [53]
El procesamiento del lenguaje natural (NLP) [54] permite que los programas lean, escriban y se comuniquen en idiomas humanos como el inglés . Los problemas específicos incluyen reconocimiento de voz , síntesis de voz , traducción automática , extracción de información , recuperación de información y respuesta a preguntas . [55]
Los primeros trabajos, basados en la gramática generativa y las redes semánticas de Noam Chomsky , tenían dificultades con la desambiguación del sentido de las palabras [f] a menos que se limitaran a pequeños dominios llamados " micromundos " (debido al problema del conocimiento del sentido común [33] ). Margaret Masterman creía que era el significado y no la gramática la clave para comprender los idiomas, y que los tesauros y no los diccionarios deberían ser la base de la estructura computacional del lenguaje.
Las técnicas modernas de aprendizaje profundo para PNL incluyen la incrustación de palabras (que representan palabras, generalmente como vectores que codifican su significado), [56] transformadores (una arquitectura de aprendizaje profundo que utiliza un mecanismo de atención ), [57] y otras. [58] En 2019, los modelos de lenguaje generativo transformador previamente entrenado (o "GPT") comenzaron a generar texto coherente, [59] [60] y para 2023, estos modelos pudieron obtener puntuaciones de nivel humano en el examen de la barra . Examen SAT , examen GRE y muchas otras aplicaciones del mundo real. [61]
La percepción de la máquina es la capacidad de utilizar entradas de sensores (como cámaras, micrófonos, señales inalámbricas, lidar activo , sonar, radar y sensores táctiles ) para deducir aspectos del mundo. La visión por computadora es la capacidad de analizar información visual. [62]
El campo incluye reconocimiento de voz , [63] clasificación de imágenes , [64] reconocimiento facial , reconocimiento de objetos , [65] seguimiento de objetos , [66] y percepción robótica . [67]
La computación afectiva es un paraguas interdisciplinario que comprende sistemas que reconocen, interpretan, procesan o simulan los sentimientos, las emociones y el estado de ánimo humanos . [69] Por ejemplo, algunos asistentes virtuales están programados para hablar en forma conversacional o incluso para bromear con humor; los hace parecer más sensibles a la dinámica emocional de la interacción humana, o para facilitar la interacción entre humanos y computadoras .
Sin embargo, esto tiende a dar a los usuarios ingenuos una concepción poco realista de la inteligencia de los agentes informáticos existentes. [70] Los éxitos moderados relacionados con la informática afectiva incluyen el análisis de sentimientos textuales y, más recientemente, el análisis de sentimientos multimodal , en el que la IA clasifica los afectos mostrados por un sujeto grabado en vídeo. [71]
Una máquina con inteligencia artificial general debería ser capaz de resolver una amplia variedad de problemas con una amplitud y versatilidad similar a la inteligencia humana . [15]
La investigación de IA utiliza una amplia variedad de técnicas para lograr los objetivos anteriores. [b]
La IA puede resolver muchos problemas buscando inteligentemente entre muchas soluciones posibles. [72] Hay dos tipos muy diferentes de búsqueda utilizados en IA: búsqueda en el espacio de estados y búsqueda local .
La búsqueda en el espacio de estados busca a través de un árbol de estados posibles para intentar encontrar un estado objetivo. [73] Por ejemplo, los algoritmos de planificación buscan a través de árboles de metas y submetas, intentando encontrar un camino hacia una meta objetivo, un proceso llamado análisis de medios-fines . [74]
Las búsquedas exhaustivas simples [75] rara vez son suficientes para la mayoría de los problemas del mundo real: el espacio de búsqueda (el número de lugares para buscar) crece rápidamente hasta alcanzar cifras astronómicas . El resultado es una búsqueda demasiado lenta o que nunca se completa. [19] La " heurística " o las "reglas generales" pueden ayudar a priorizar las opciones que tienen más probabilidades de alcanzar un objetivo. [76]
La búsqueda adversaria se utiliza para programas de juegos , como ajedrez o Go. Busca en un árbol de posibles movimientos y contramovimientos, buscando una posición ganadora. [77]
La búsqueda local utiliza optimización matemática para encontrar una solución a un problema. Comienza con algún tipo de conjetura y la refina gradualmente. [78]
El descenso de gradiente es un tipo de búsqueda local que optimiza un conjunto de parámetros numéricos ajustándolos incrementalmente para minimizar una función de pérdida . Las variantes del descenso de gradiente se utilizan habitualmente para entrenar redes neuronales. [79]
Otro tipo de búsqueda local es la computación evolutiva , que tiene como objetivo mejorar iterativamente un conjunto de soluciones candidatas "mutándolas" y "recombinándolas", seleccionando sólo las más aptas para sobrevivir en cada generación. [80]
Los procesos de búsqueda distribuidos pueden coordinarse mediante algoritmos de inteligencia de enjambre . Dos algoritmos de enjambre populares utilizados en la búsqueda son la optimización de enjambre de partículas (inspirada en las bandadas de aves ) y la optimización de colonias de hormigas (inspirada en los senderos de hormigas ). [81]
La lógica formal se utiliza para el razonamiento y la representación del conocimiento . [82] La lógica formal se presenta en dos formas principales: lógica proposicional (que opera con afirmaciones que son verdaderas o falsas y utiliza conectivos lógicos como "y", "o", "no" e "implica") [83] y predicado. lógica (que también opera sobre objetos, predicados y relaciones y utiliza cuantificadores como " Cada X es una Y " y "Hay algunas X que son Y "). [84]
El razonamiento deductivo en lógica es el proceso de probar un nuevo enunciado ( conclusión ) a partir de otros enunciados que se dan y se suponen verdaderos (las premisas ). [85] Las pruebas se pueden estructurar como árboles de prueba , en los que los nodos están etiquetados por oraciones y los nodos secundarios están conectados a los nodos principales mediante reglas de inferencia .
Dado un problema y un conjunto de premisas, la resolución de problemas se reduce a buscar un árbol de prueba cuyo nodo raíz esté etiquetado por una solución del problema y cuyos nodos hoja estén etiquetados por premisas o axiomas . En el caso de las cláusulas de Horn , la búsqueda de resolución de problemas se puede realizar razonando hacia adelante a partir de las premisas o hacia atrás a partir del problema. [86] En el caso más general de la forma clausal de la lógica de primer orden , la resolución es una regla de inferencia única y libre de axiomas, en la que un problema se resuelve demostrando una contradicción a partir de premisas que incluyen la negación del problema a ser solucionado. [87]
La inferencia tanto en la lógica de la cláusula de Horn como en la lógica de primer orden es indecidible y, por tanto, intratable . Sin embargo, el razonamiento inverso con cláusulas de Horn, que sustenta el cálculo en el lenguaje de programación lógica Prolog , es Turing completo . Además, su eficiencia es competitiva con la computación en otros lenguajes de programación simbólicos . [88]
La lógica difusa asigna un "grado de verdad" entre 0 y 1. Por lo tanto, puede manejar proposiciones vagas y parcialmente verdaderas. [89]
Las lógicas no monótonas , incluida la programación lógica con negación como falla , están diseñadas para manejar el razonamiento predeterminado . [32] Se han desarrollado otras versiones especializadas de la lógica para describir muchos dominios complejos.
Muchos problemas de la IA (incluidos los de razonamiento, planificación, aprendizaje, percepción y robótica) requieren que el agente opere con información incompleta o incierta. Los investigadores de IA han ideado una serie de herramientas para resolver estos problemas utilizando métodos de la teoría de la probabilidad y la economía. [90] Se han desarrollado herramientas matemáticas precisas que analizan cómo un agente puede tomar decisiones y planificar, utilizando la teoría de la decisión , el análisis de la decisión , [91] y la teoría del valor de la información . [92] Estas herramientas incluyen modelos como los procesos de decisión de Markov , [93] redes de decisión dinámicas , [94] teoría de juegos y diseño de mecanismos . [95]
Las redes bayesianas [96] son una herramienta que se puede utilizar para razonar (usando el algoritmo de inferencia bayesiano ), [g] [98] aprender (usando el algoritmo de expectativa-maximización ), [h] [100] planificar (usando redes de decisión ) [101] y percepción (utilizando redes bayesianas dinámicas ). [94]
Los algoritmos probabilísticos también se pueden utilizar para filtrar, predecir, suavizar y encontrar explicaciones para flujos de datos, ayudando así a los sistemas de percepción a analizar procesos que ocurren a lo largo del tiempo (por ejemplo, modelos ocultos de Markov o filtros de Kalman ). [94]
Las aplicaciones de IA más simples se pueden dividir en dos tipos: clasificadores (por ejemplo, "si es brillante, entonces diamante"), por un lado, y controladores (por ejemplo, "si es diamante, entonces recoja"), por el otro. Los clasificadores [102] son funciones que utilizan la coincidencia de patrones para determinar la coincidencia más cercana. Se pueden ajustar en función de ejemplos elegidos mediante el aprendizaje supervisado . Cada patrón (también llamado " observación ") está etiquetado con una determinada clase predefinida. Todas las observaciones combinadas con sus etiquetas de clase se conocen como conjunto de datos . Cuando se recibe una nueva observación, esa observación se clasifica según la experiencia previa. [49]
Se utilizan muchos tipos de clasificadores. [103] El árbol de decisión es el algoritmo de aprendizaje automático simbólico más simple y más utilizado. [104] El algoritmo K-vecino más cercano fue la IA analógica más utilizada hasta mediados de la década de 1990, y los métodos Kernel como la máquina de vectores de soporte (SVM) desplazaron al k-vecino más cercano en la década de 1990. [105] Se informa que el ingenuo clasificador Bayes es el "aprendiz más utilizado" [106] en Google, debido en parte a su escalabilidad. [107] Las redes neuronales también se utilizan como clasificadores. [108]
Una red neuronal artificial se basa en una colección de nodos, también conocidos como neuronas artificiales , que modelan vagamente las neuronas de un cerebro biológico. Está entrenado para reconocer patrones; una vez entrenado, puede reconocer esos patrones en datos nuevos. Hay una entrada, al menos una capa oculta de nodos y una salida. Cada nodo aplica una función y una vez que el peso cruza su umbral especificado, los datos se transmiten a la siguiente capa. Una red suele denominarse red neuronal profunda si tiene al menos 2 capas ocultas. [108]
Los algoritmos de aprendizaje para redes neuronales utilizan la búsqueda local para elegir los pesos que obtendrán el resultado correcto para cada entrada durante el entrenamiento. La técnica de entrenamiento más común es el algoritmo de retropropagación . [109] Las redes neuronales aprenden a modelar relaciones complejas entre entradas y salidas y a encontrar patrones en los datos. En teoría, una red neuronal puede aprender cualquier función. [110]
En las redes neuronales feedforward la señal pasa en una sola dirección. [111] Las redes neuronales recurrentes retroalimentan la señal de salida a la entrada, lo que permite recuerdos a corto plazo de eventos de entrada anteriores. La memoria a largo plazo es la arquitectura de red más exitosa para redes recurrentes. [112] Los perceptrones [113] usan solo una capa de neuronas, el aprendizaje profundo [114] usa múltiples capas. Las redes neuronales convolucionales fortalecen la conexión entre neuronas que están "cercas" entre sí; esto es especialmente importante en el procesamiento de imágenes , donde un conjunto local de neuronas debe identificar un "borde" antes de que la red pueda identificar un objeto. [115]
El aprendizaje profundo [114] utiliza varias capas de neuronas entre las entradas y salidas de la red. Las múltiples capas pueden extraer progresivamente características de nivel superior a partir de la entrada sin procesar. Por ejemplo, en el procesamiento de imágenes , las capas inferiores pueden identificar bordes, mientras que las capas superiores pueden identificar conceptos relevantes para un ser humano, como dígitos, letras o caras. [116]
El aprendizaje profundo ha mejorado profundamente el rendimiento de los programas en muchos subcampos importantes de la inteligencia artificial, incluida la visión por computadora , el reconocimiento de voz , el procesamiento del lenguaje natural , la clasificación de imágenes , [117] y otros. La razón por la que el aprendizaje profundo funciona tan bien en tantas aplicaciones no se conoce hasta 2023. [118] El repentino éxito del aprendizaje profundo en 2012-2015 no se produjo debido a algún nuevo descubrimiento o avance teórico (las redes neuronales profundas y la retropropagación habían sido descrito por muchas personas, ya en la década de 1950) [i] sino debido a dos factores: el increíble aumento en la potencia de la computadora (incluido el aumento de cien veces en la velocidad al cambiar a GPU ) y la disponibilidad de grandes cantidades de capacitación datos, especialmente los conjuntos de datos gigantes seleccionados que se utilizan para pruebas comparativas, como ImageNet . [j]
Los transformadores generativos preentrenados (GPT) son modelos de lenguaje grandes (LLM) que generan texto basado en las relaciones semánticas entre palabras en oraciones. Los modelos GPT basados en texto están previamente entrenados en un gran corpus de texto que puede ser de Internet. El preentrenamiento consiste en predecir el siguiente token (un token suele ser una palabra, subpalabra o puntuación). A lo largo de este entrenamiento previo, los modelos GPT acumulan conocimiento sobre el mundo y luego pueden generar texto similar al humano al predecir repetidamente el siguiente token. Normalmente, una fase de entrenamiento posterior hace que el modelo sea más veraz, útil e inofensivo, generalmente con una técnica llamada aprendizaje por refuerzo a partir de retroalimentación humana (RLHF). Los modelos GPT actuales son propensos a generar falsedades llamadas " alucinaciones ", aunque esto se puede reducir con RLHF y datos de calidad. Se utilizan en chatbots , que permiten a las personas hacer una pregunta o solicitar una tarea en un texto simple. [126] [127]
Los modelos y servicios actuales incluyen Gemini (anteriormente Bard), ChatGPT , Grok , Claude , Copilot y LLaMA . [128] Los modelos GPT multimodales pueden procesar diferentes tipos de datos ( modalidades ), como imágenes, videos, sonido y texto. [129]
A finales de la década de 2010, las unidades de procesamiento de gráficos (GPU) que se diseñaban cada vez más con mejoras específicas de IA y se usaban con software especializado TensorFlow habían reemplazado a las unidades centrales de procesamiento (CPU) utilizadas anteriormente como medio dominante para máquinas a gran escala (comerciales y académicas). Formación de modelos de aprendizaje . [130] Los lenguajes de programación especializados como Prolog se utilizaron en las primeras investigaciones sobre IA, [131] pero los lenguajes de programación de propósito general como Python se han vuelto predominantes. [132]
La tecnología de inteligencia artificial y aprendizaje automático se utiliza en la mayoría de las aplicaciones esenciales de la década de 2020, incluidos: motores de búsqueda (como la Búsqueda de Google ), publicidad dirigida en línea , sistemas de recomendación (ofrecidos por Netflix , YouTube o Amazon ), conducción del tráfico de Internet , publicidad dirigida. ( AdSense , Facebook ), asistentes virtuales (como Siri o Alexa ), vehículos autónomos (incluidos drones , ADAS y coches autónomos ), traducción automática de idiomas ( Microsoft Translator , Google Translate ), reconocimiento facial ( Face ID de Apple o DeepFace de Microsoft y FaceNet de Google ) y etiquetado de imágenes (utilizado por Facebook , iPhoto de Apple y TikTok ). El despliegue de la IA puede ser supervisado por un director de automatización (CAO).
La aplicación de la IA en la medicina y la investigación médica tiene el potencial de aumentar la atención al paciente y la calidad de vida. [133] A través de la lente del Juramento Hipocrático , los profesionales médicos están éticamente obligados a utilizar IA, si las aplicaciones pueden diagnosticar y tratar a los pacientes con mayor precisión.
Para la investigación médica, la IA es una herramienta importante para procesar e integrar big data . Esto es particularmente importante para el desarrollo de la ingeniería de organoides y tejidos que utilizan imágenes de microscopía como técnica clave en la fabricación. [134] Se ha sugerido que la IA puede superar las discrepancias en la financiación asignada a diferentes campos de investigación. [134] Las nuevas herramientas de IA pueden profundizar la comprensión de vías biomédicamente relevantes. Por ejemplo, AlphaFold 2 (2021) demostró la capacidad de aproximarse, en horas en lugar de meses, a la estructura 3D de una proteína . [135] En 2023, se informó que el descubrimiento de fármacos guiado por la IA ayudó a encontrar una clase de antibióticos capaces de matar dos tipos diferentes de bacterias resistentes a los medicamentos. [136] En 2024, los investigadores utilizaron el aprendizaje automático para acelerar la búsqueda de tratamientos farmacológicos para la enfermedad de Parkinson . Su objetivo era identificar compuestos que bloqueen la aglomeración o agregación de la alfa-sinucleína (la proteína que caracteriza la enfermedad de Parkinson). Pudieron acelerar diez veces el proceso de selección inicial y reducir el coste mil veces. [137] [138]
Los programas de juegos se han utilizado desde la década de 1950 para demostrar y probar las técnicas más avanzadas de la IA. [139] Deep Blue se convirtió en el primer sistema de juego de ajedrez por computadora en vencer al actual campeón mundial de ajedrez, Garry Kasparov , el 11 de mayo de 1997. [140] En 2011, en Jeopardy! En el concurso de exhibición de concursos , el sistema de respuesta a preguntas de IBM , Watson , derrotó a los dos mayores Jeopardy! campeones, Brad Rutter y Ken Jennings , por un margen significativo. [141] En marzo de 2016, AlphaGo ganó 4 de 5 juegos de Go en un partido con el campeón de Go Lee Sedol , convirtiéndose en el primer sistema informático de juego de Go en vencer a un jugador profesional de Go sin desventajas . Luego, en 2017, derrotó a Ke Jie , que era el mejor jugador de Go del mundo. [142] Otros programas manejan juegos con información imperfecta , como el programa de póquer Pluribus . [143] DeepMind desarrolló modelos de aprendizaje por refuerzo cada vez más generalistas , como con MuZero , que podrían entrenarse para jugar juegos de ajedrez, Go o Atari . [144] En 2019, AlphaStar de DeepMind alcanzó el nivel de gran maestro en StarCraft II , un juego de estrategia en tiempo real particularmente desafiante que implica un conocimiento incompleto de lo que sucede en el mapa. [145] En 2021, un agente de IA compitió en una competencia de PlayStation Gran Turismo y ganó contra cuatro de los mejores conductores de Gran Turismo del mundo utilizando el aprendizaje por refuerzo profundo. [146] En 2024, Google DeepMind presentó SIMA, un tipo de IA capaz de jugar de forma autónoma nueve videojuegos de mundo abierto nunca antes vistos observando la salida de la pantalla, así como ejecutando tareas breves y específicas en respuesta a instrucciones en lenguaje natural. [147]
En matemáticas se utilizan formas especiales de razonamiento formal paso a paso . Por el contrario, los LLM como GPT-4 Turbo , Gemini Ultra , Claude Opus , LLaMa-2 o Mistral Large trabajan con modelos probabilísticos, que pueden producir respuestas erróneas en forma de alucinaciones . Por lo tanto, no solo necesitan una gran base de datos de problemas matemáticos de los cuales aprender, sino también métodos como el ajuste supervisado o clasificadores capacitados con datos anotados por humanos para mejorar las respuestas a nuevos problemas y aprender de las correcciones. [148] Un estudio de 2024 mostró que el rendimiento de algunos modelos de lenguaje para las capacidades de razonamiento en la resolución de problemas matemáticos no incluidos en sus datos de entrenamiento era bajo, incluso para problemas con desviaciones menores de los datos entrenados. [149]
Alternativamente, se han desarrollado modelos dedicados para la resolución de problemas matemáticos con mayor precisión para el resultado, incluida la prueba de teoremas, como Alpha Tensor , Alpha Geometry y Alpha Proof, todos de Google DeepMind , [150] Llemma de eleuther [151] o Julius . [152]
Cuando se utiliza el lenguaje natural para describir problemas matemáticos, los convertidores transforman dichas indicaciones en un lenguaje formal como Lean para definir tareas matemáticas.
Algunos modelos se han desarrollado para resolver problemas desafiantes y alcanzar buenos resultados en pruebas de referencia, otros para servir como herramientas educativas en matemáticas. [153]
Las finanzas son uno de los sectores de más rápido crecimiento en el que se están implementando herramientas de IA aplicada: desde la banca minorista en línea hasta el asesoramiento de inversiones y los seguros, donde se utilizan "asesores robóticos" automatizados desde hace algunos años. [154]
Los expertos en Pensiones Mundiales como Nicolas Firzli insisten en que puede ser demasiado pronto para ver el surgimiento de productos y servicios financieros altamente innovadores basados en IA: "el despliegue de herramientas de IA simplemente automatizará aún más las cosas: destruirá decenas de miles de puestos de trabajo en la banca, la planificación financiera y asesoramiento sobre pensiones en el proceso, pero no estoy seguro de que desate una nueva ola de innovación en materia de pensiones [por ejemplo, sofisticada]". [155]
Varios países están implementando aplicaciones militares de IA. [156] Las principales aplicaciones mejoran el mando y control , las comunicaciones, los sensores, la integración y la interoperabilidad. [157] Las investigaciones se centran en la recopilación y el análisis de inteligencia, la logística, las operaciones cibernéticas, las operaciones de información y los vehículos semiautónomos y autónomos . [156] Las tecnologías de IA permiten la coordinación de sensores y efectores, la detección e identificación de amenazas, el marcado de posiciones enemigas, la adquisición de objetivos , la coordinación y la eliminación de conflictos de fuegos conjuntos distribuidos entre vehículos de combate en red que involucran equipos tripulados y no tripulados. [157] La IA se incorporó a operaciones militares en Irak y Siria. [156]
En noviembre de 2023, la vicepresidenta de Estados Unidos, Kamala Harris, reveló una declaración firmada por 31 países para establecer barreras para el uso militar de la IA. Los compromisos incluyen el uso de revisiones legales para garantizar el cumplimiento de la IA militar con las leyes internacionales y ser cautelosos y transparentes en el desarrollo de esta tecnología. [158]
A principios de la década de 2020, la IA generativa ganó una prominencia generalizada. En marzo de 2023, el 58% de los adultos estadounidenses había oído hablar de ChatGPT y el 14% lo había probado. [159] El creciente realismo y facilidad de uso de los generadores de texto a imágenes basados en IA , como Midjourney , DALL-E y Stable Diffusion, provocaron una tendencia de fotografías virales generadas por IA. Una fotografía falsa del Papa Francisco con un abrigo acolchado blanco, el arresto ficticio de Donald Trump y el engaño de un ataque al Pentágono , así como su uso en artes creativas profesionales, atrajeron gran atención . [160] [161]
Los agentes de inteligencia artificial (IA) son entidades de software diseñadas para percibir su entorno, tomar decisiones y realizar acciones de forma autónoma para lograr objetivos específicos. Estos agentes pueden interactuar con los usuarios, su entorno u otros agentes. Los agentes de IA se utilizan en diversas aplicaciones, incluidos asistentes virtuales , chatbots , vehículos autónomos , sistemas de juegos y robótica industrial . Los agentes de IA operan dentro de las limitaciones de su programación, los recursos computacionales disponibles y las limitaciones de hardware. Esto significa que están restringidos a realizar tareas dentro de su alcance definido y tienen memoria y capacidades de procesamiento finitas. En aplicaciones del mundo real, los agentes de IA a menudo enfrentan limitaciones de tiempo para la toma de decisiones y la ejecución de acciones. Muchos agentes de IA incorporan algoritmos de aprendizaje, lo que les permite mejorar su desempeño con el tiempo a través de la experiencia o la capacitación. Utilizando el aprendizaje automático, los agentes de IA pueden adaptarse a nuevas situaciones y optimizar su comportamiento para las tareas designadas. [162] [163] [164]
También hay miles de aplicaciones de IA exitosas que se utilizan para resolver problemas específicos de industrias o instituciones específicas. En una encuesta de 2017, una de cada cinco empresas informó haber incorporado "IA" en algunas ofertas o procesos. [165] Algunos ejemplos son el almacenamiento de energía , el diagnóstico médico, la logística militar, las aplicaciones que predicen el resultado de decisiones judiciales, la política exterior o la gestión de la cadena de suministro.
Las aplicaciones de IA para la evacuación y la gestión de desastres están creciendo. La IA se ha utilizado para investigar si las personas fueron evacuadas a gran y pequeña escala, y cómo, utilizando datos históricos de GPS, vídeos o redes sociales. Además, la IA puede proporcionar información en tiempo real sobre las condiciones de evacuación. [166] [167] [168]
En agricultura, la IA ha ayudado a los agricultores a identificar áreas que necesitan riego, fertilización, tratamientos con pesticidas o aumentar el rendimiento. Los agrónomos utilizan la IA para realizar investigación y desarrollo. La IA se ha utilizado para predecir el tiempo de maduración de cultivos como los tomates, monitorear la humedad del suelo, operar robots agrícolas, realizar análisis predictivos, clasificar las emociones de los llamados de los cerdos, automatizar invernaderos, detectar enfermedades y plagas y ahorrar agua.
La inteligencia artificial se utiliza en astronomía para analizar cantidades cada vez mayores de datos y aplicaciones disponibles, principalmente para "clasificación, regresión, agrupación, predicción, generación, descubrimiento y desarrollo de nuevos conocimientos científicos", por ejemplo para descubrir exoplanetas, pronosticar la actividad solar y distinguir entre señales y efectos instrumentales en astronomía de ondas gravitacionales. También podría usarse para actividades en el espacio como la exploración espacial, incluido el análisis de datos de misiones espaciales, decisiones científicas de naves espaciales en tiempo real, prevención de desechos espaciales y operaciones más autónomas.
La IA tiene beneficios potenciales y riesgos potenciales. La IA puede ser capaz de hacer avanzar la ciencia y encontrar soluciones a problemas graves: Demis Hassabis de Deep Mind espera "resolver la inteligencia y luego usarla para resolver todo lo demás". [169] Sin embargo, a medida que el uso de la IA se ha generalizado, se han identificado varias consecuencias y riesgos no deseados. [170] Los sistemas en producción a veces no pueden tener en cuenta la ética y el sesgo en sus procesos de entrenamiento de IA, especialmente cuando los algoritmos de IA son inherentemente inexplicables en el aprendizaje profundo. [171]
Los algoritmos de aprendizaje automático requieren grandes cantidades de datos. Las técnicas utilizadas para adquirir estos datos han generado preocupaciones sobre la privacidad , la vigilancia y los derechos de autor .
Los dispositivos y servicios impulsados por IA, como los asistentes virtuales y los productos de IoT, recopilan continuamente información personal, lo que genera preocupación sobre la recopilación de datos intrusivos y el acceso no autorizado por parte de terceros. La pérdida de privacidad se ve exacerbada aún más por la capacidad de la IA para procesar y combinar grandes cantidades de datos, lo que podría conducir a una sociedad de vigilancia en la que las actividades individuales se monitorean y analizan constantemente sin salvaguardias ni transparencia adecuadas.
Los datos confidenciales del usuario recopilados pueden incluir registros de actividad en línea, datos de geolocalización, video o audio. [172] Por ejemplo, para crear algoritmos de reconocimiento de voz , Amazon ha grabado millones de conversaciones privadas y ha permitido a los trabajadores temporales escuchar y transcribir algunas de ellas. [173] Las opiniones sobre esta vigilancia generalizada van desde quienes la ven como un mal necesario hasta aquellos para quienes es claramente poco ética y una violación del derecho a la privacidad . [174]
Los desarrolladores de IA sostienen que ésta es la única manera de ofrecer aplicaciones valiosas. y han desarrollado varias técnicas que intentan preservar la privacidad sin dejar de obtener los datos, como la agregación de datos , la desidentificación y la privacidad diferencial . [175] Desde 2016, algunos expertos en privacidad, como Cynthia Dwork , han comenzado a ver la privacidad en términos de equidad . Brian Christian escribió que los expertos han pasado "de la cuestión de 'qué saben' a la cuestión de 'qué están haciendo con ello'". [176]
La IA generativa a menudo se entrena en obras protegidas por derechos de autor sin licencia, incluso en dominios como imágenes o códigos informáticos; el resultado se utiliza luego bajo el argumento de " uso legítimo ". Los expertos no están de acuerdo sobre qué tan bien y bajo qué circunstancias se mantendrá este razonamiento en los tribunales; Los factores pertinentes pueden incluir "el propósito y el carácter del uso de la obra protegida por derechos de autor" y "el efecto sobre el mercado potencial de la obra protegida por derechos de autor". [177] [178] Los propietarios de sitios web que no deseen que se elimine su contenido pueden indicarlo en un archivo " robots.txt ". [179] En 2023, autores destacados (incluidos John Grisham y Jonathan Franzen ) demandaron a empresas de IA por utilizar su trabajo para entrenar IA generativa. [180] [181] Otro enfoque discutido es imaginar un sistema sui generis de protección separado para las creaciones generadas por IA para garantizar una atribución y compensación justas para los autores humanos. [182]
La escena comercial de la IA está dominada por grandes empresas tecnológicas como Alphabet Inc. , Amazon , Apple Inc. , Meta Platforms y Microsoft . [183] [184] [185] Algunos de estos actores ya poseen la gran mayoría de la infraestructura de nube existente y la potencia informática de los centros de datos , lo que les permite afianzarse aún más en el mercado. [186] [187]
En enero de 2024, la Agencia Internacional de Energía (AIE) publicó Electricidad 2024, Análisis y Pronóstico hasta 2026 , pronosticando el uso de energía eléctrica. [188] Este es el primer informe de la AIE que realiza proyecciones para centros de datos y consumo de energía para inteligencia artificial y criptomonedas. El informe afirma que la demanda de energía para estos usos podría duplicarse para 2026, con un uso adicional de energía eléctrica equivalente a la electricidad utilizada por toda la nación japonesa. [189]
El prodigioso consumo de energía por parte de la IA es responsable del crecimiento del uso de combustibles fósiles y podría retrasar el cierre de instalaciones de energía de carbón obsoletas que emiten carbono. Hay un aumento febril en la construcción de centros de datos en todo Estados Unidos, lo que convierte a las grandes empresas de tecnología (por ejemplo, Microsoft, Meta, Google, Amazon) en consumidores voraces de energía eléctrica. El consumo eléctrico proyectado es tan inmenso que existe la preocupación de que se cumpla sin importar la fuente. Una búsqueda en ChatGPT implica el uso de 10 veces más energía eléctrica que una búsqueda en Google. Las grandes empresas tienen prisa por encontrar fuentes de energía, desde la energía nuclear hasta la geotérmica y la fusión. Las empresas de tecnología argumentan que, a largo plazo, la IA eventualmente será más respetuosa con el medio ambiente, pero necesitan la energía ahora. La IA hace que la red eléctrica sea más eficiente e "inteligente", ayudará al crecimiento de la energía nuclear y rastreará las emisiones generales de carbono, según empresas de tecnología. [190]
Un artículo de investigación de Goldman Sachs de 2024, AI Data Centers and the Coming US Power Demand Surge , encontró que "es probable que la demanda de energía de EE. UU. experimente un crecimiento no visto en una generación...". y pronostica que, para 2030, los centros de datos de EE. UU. consumirán el 8% de la energía estadounidense, en comparación con el 3% en 2022, lo que presagia un crecimiento para la industria de generación de energía eléctrica por diversos medios. [191] La necesidad de los centros de datos de cada vez más energía eléctrica es tal que podrían maximizar la red eléctrica. Las grandes empresas tecnológicas responden que la IA puede utilizarse para maximizar la utilización de la red por parte de todos. [192]
En 2024, el Wall Street Journal informó que las grandes empresas de inteligencia artificial habían iniciado negociaciones con los proveedores de energía nuclear de EE. UU. para suministrar electricidad a los centros de datos. En marzo de 2024, Amazon compró un centro de datos de propulsión nuclear en Pensilvania por 650 millones de dólares (EE.UU.). [193]
YouTube , Facebook y otros utilizan sistemas de recomendación para guiar a los usuarios a más contenido. A estos programas de IA se les asignó el objetivo de maximizar la participación del usuario (es decir, el único objetivo era mantener a la gente mirando). La IA aprendió que los usuarios tendían a elegir información errónea , teorías de conspiración y contenido partidista extremo y, para mantenerlos mirando, la IA recomendó más. Los usuarios también tendían a ver más contenido sobre el mismo tema, por lo que la IA llevaba a las personas a burbujas de filtro donde recibían múltiples versiones de la misma información errónea. [194] Esto convenció a muchos usuarios de que la información errónea era cierta y, en última instancia, socavó la confianza en las instituciones, los medios de comunicación y el gobierno. [195] El programa de IA había aprendido correctamente a maximizar su objetivo, pero el resultado fue perjudicial para la sociedad. Después de las elecciones estadounidenses de 2016, las principales empresas de tecnología tomaron medidas para mitigar el problema [ cita necesaria ] .
En 2022, la IA generativa comenzó a crear imágenes, audio, vídeo y texto que son indistinguibles de fotografías, grabaciones, películas o escritura humana reales. Es posible que los malos actores utilicen esta tecnología para crear cantidades masivas de información errónea o propaganda. [196] El pionero de la IA, Geoffrey Hinton, expresó su preocupación por el hecho de que la IA permita a "líderes autoritarios manipular a sus electorados" a gran escala, entre otros riesgos. [197]
En estadística, un sesgo es un error sistemático o una desviación del valor correcto. Pero en el contexto de la equidad , a menudo se refiere a una tendencia a favor o en contra de un determinado grupo o característica individual, generalmente de una manera que se considera injusta o perjudicial. Por lo tanto, un sistema de IA estadísticamente imparcial que produce resultados dispares para diferentes grupos demográficos puede considerarse sesgado en el sentido ético. [198]
El campo de la equidad estudia cómo prevenir los daños causados por sesgos algorítmicos. Existen varias definiciones contradictorias y modelos matemáticos de justicia. Estas nociones dependen de supuestos éticos y están influenciadas por creencias sobre la sociedad. Una categoría amplia es la equidad distributiva, que se centra en los resultados, a menudo identificando grupos y buscando compensar las disparidades estadísticas. La equidad representacional intenta garantizar que los sistemas de IA no refuercen los estereotipos negativos ni hagan invisibles a ciertos grupos. La equidad procesal se centra en el proceso de decisión más que en el resultado. Las nociones más relevantes de equidad pueden depender del contexto, en particular del tipo de aplicación de IA y de las partes interesadas. La subjetividad de las nociones de parcialidad y equidad dificulta que las empresas las pongan en práctica. Muchos especialistas en ética de la IA también consideran necesario tener acceso a atributos sensibles como la raza o el género para compensar los sesgos, pero puede entrar en conflicto con las leyes contra la discriminación . [198]
Las aplicaciones de aprendizaje automático estarán sesgadas si aprenden de datos sesgados. [199] Es posible que los desarrolladores no sepan que existe el sesgo. [200] Se puede introducir sesgo por la forma en que se seleccionan los datos de entrenamiento y por la forma en que se implementa un modelo. [201] [199] Si se utiliza un algoritmo sesgado para tomar decisiones que pueden dañar gravemente a las personas (como puede ocurrir en medicina , finanzas , contratación , vivienda o vigilancia ), entonces el algoritmo puede causar discriminación . [202]
El 28 de junio de 2015, la nueva función de etiquetado de imágenes de Google Photos identificó erróneamente a Jacky Alcine y a un amigo como "gorilas" porque eran negros. El sistema fue entrenado en un conjunto de datos que contenía muy pocas imágenes de personas negras, [203] un problema llamado "disparidad del tamaño de la muestra". [204] Google "solucionó" este problema impidiendo que el sistema etiquetara algo como "gorila". Ocho años después, en 2023, Google Fotos todavía no podía identificar a un gorila, ni tampoco productos similares de Apple, Facebook, Microsoft y Amazon. [205]
COMPAS es un programa comercial ampliamente utilizado por los tribunales estadounidenses para evaluar la probabilidad de que un acusado se convierta en reincidente . En 2016, Julia Angwin de ProPublica descubrió que COMPAS exhibía prejuicios raciales, a pesar de que al programa no se le informó sobre las razas de los acusados. Aunque la tasa de error tanto para blancos como para negros se calibró exactamente en 61%, los errores para cada raza fueron diferentes: el sistema sobreestimó constantemente la posibilidad de que una persona negra reincidiera y subestimaba la posibilidad de que una persona blanca no lo hiciera. reincidir. [206] En 2017, varios investigadores [k] demostraron que era matemáticamente imposible para COMPAS acomodar todas las medidas posibles de equidad cuando las tasas base de reincidencia eran diferentes para blancos y negros en los datos. [208]
Un programa puede tomar decisiones sesgadas incluso si los datos no mencionan explícitamente una característica problemática (como "raza" o "género"). La característica se correlacionará con otras características (como "dirección", "historial de compras" o "nombre"), y el programa tomará las mismas decisiones basándose en estas características que en "raza" o "género". [209] Moritz Hardt dijo que "el hecho más sólido en esta área de investigación es que la justicia a través de la ceguera no funciona". [210]
Las críticas a COMPAS destacaron que los modelos de aprendizaje automático están diseñados para hacer "predicciones" que sólo son válidas si asumimos que el futuro se parecerá al pasado. Si se entrenan con datos que incluyen los resultados de decisiones racistas en el pasado, los modelos de aprendizaje automático deben predecir que se tomarán decisiones racistas en el futuro. Si una aplicación utiliza estas predicciones como recomendaciones , algunas de estas "recomendaciones" probablemente serán racistas. [211] Por lo tanto, el aprendizaje automático no es adecuado para ayudar a tomar decisiones en áreas donde hay esperanza de que el futuro sea mejor que el pasado. Es más descriptivo que prescriptivo. [l]
Los prejuicios y la injusticia pueden pasar desapercibidos porque los desarrolladores son abrumadoramente blancos y hombres: entre los ingenieros de inteligencia artificial, alrededor del 4% son negros y el 20% son mujeres. [204]
En su Conferencia de 2022 sobre Equidad, Responsabilidad y Transparencia (ACM FAccT 2022), la Asociación para Maquinaria de Computación , en Seúl, Corea del Sur, presentó y publicó hallazgos que recomiendan que hasta que se demuestre que los sistemas de IA y robótica están libres de errores de sesgo, no son seguros y se debe limitar el uso de redes neuronales de autoaprendizaje entrenadas en enormes fuentes no reguladas de datos de Internet defectuosos. [ dudoso – discutir ] [213]
Muchos sistemas de IA son tan complejos que sus diseñadores no pueden explicar cómo toman sus decisiones. [214] Particularmente con redes neuronales profundas , en las que hay una gran cantidad de relaciones no lineales entre entradas y salidas. Pero existen algunas técnicas populares de explicabilidad. [215]
Es imposible estar seguro de que un programa funciona correctamente si nadie sabe exactamente cómo funciona. Ha habido muchos casos en los que un programa de aprendizaje automático pasó pruebas rigurosas, pero aun así aprendió algo diferente de lo que pretendían los programadores. Por ejemplo, se descubrió que un sistema que podía identificar enfermedades de la piel mejor que los profesionales médicos tenía en realidad una fuerte tendencia a clasificar las imágenes con una regla como "cancerosas", porque las imágenes de tumores malignos suelen incluir una regla para mostrar la escala. [216] Se descubrió que otro sistema de aprendizaje automático diseñado para ayudar a asignar recursos médicos de manera efectiva clasifica a los pacientes con asma como de "bajo riesgo" de morir de neumonía. Tener asma es en realidad un factor de riesgo grave, pero dado que los pacientes con asma normalmente recibirían mucha más atención médica, era relativamente improbable que murieran según los datos del entrenamiento. La correlación entre el asma y el bajo riesgo de morir por neumonía era real, pero engañosa. [217]
Las personas que han resultado perjudicadas por la decisión de un algoritmo tienen derecho a una explicación. [218] Se espera que los médicos, por ejemplo, expliquen clara y completamente a sus colegas el razonamiento detrás de cualquier decisión que tomen. Los primeros borradores del Reglamento General de Protección de Datos de la Unión Europea de 2016 incluían una declaración explícita de que este derecho existe. [m] Los expertos de la industria señalaron que se trata de un problema sin resolver y sin solución a la vista. Los reguladores argumentaron que, sin embargo, el daño es real: si el problema no tiene solución, no se deben utilizar las herramientas. [219]
DARPA creó el programa XAI ("Inteligencia Artificial Explicable") en 2014 para intentar resolver estos problemas. [220]
Varios enfoques apuntan a abordar el problema de la transparencia. SHAP permite visualizar la contribución de cada característica al resultado. [221] LIME puede aproximar localmente los resultados de un modelo con un modelo más simple e interpretable. [222] El aprendizaje multitarea proporciona una gran cantidad de resultados además de la clasificación de objetivos. Estos otros resultados pueden ayudar a los desarrolladores a deducir lo que la red ha aprendido. [223] La deconvolución , DeepDream y otros métodos generativos pueden permitir a los desarrolladores ver qué han aprendido las diferentes capas de una red profunda para visión por computadora y producir resultados que puedan sugerir lo que la red está aprendiendo. [224] Para los transformadores generativos preentrenados , Anthropic desarrolló una técnica basada en el aprendizaje de diccionarios que asocia patrones de activaciones neuronales con conceptos comprensibles para los humanos. [225]
La inteligencia artificial proporciona una serie de herramientas que son útiles para los malos actores , como gobiernos autoritarios , terroristas , criminales o estados canallas .
Un arma letal autónoma es una máquina que localiza, selecciona y ataca objetivos humanos sin supervisión humana. [n] Los malos actores pueden utilizar herramientas de IA ampliamente disponibles para desarrollar armas autónomas económicas y, si se producen a escala, son potencialmente armas de destrucción masiva . [227] Incluso cuando se utilizan en la guerra convencional, es poco probable que no puedan elegir objetivos de manera confiable y potencialmente puedan matar a una persona inocente . [227] En 2014, 30 naciones (incluida China) apoyaron la prohibición de armas autónomas en virtud de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales , sin embargo, Estados Unidos y otros no estuvieron de acuerdo. [228] En 2015, se informó que más de cincuenta países estaban investigando robots de campo de batalla. [229]
Las herramientas de inteligencia artificial facilitan que los gobiernos autoritarios controlen eficientemente a sus ciudadanos de varias maneras. El reconocimiento facial y de voz permite una vigilancia generalizada . El aprendizaje automático , al operar estos datos, puede clasificar a los enemigos potenciales del Estado y evitar que se oculten. Los sistemas de recomendación pueden apuntar con precisión a la propaganda y la desinformación para lograr el máximo efecto. Los deepfakes y la IA generativa ayudan a producir desinformación. La IA avanzada puede hacer que la toma de decisiones centralizada y autoritaria sea más competitiva que los sistemas liberales y descentralizados como los mercados . Reduce el costo y la dificultad de la guerra digital y el software espía avanzado . [230] Todas estas tecnologías han estado disponibles desde 2020 o antes; los sistemas de reconocimiento facial de IA ya se están utilizando para la vigilancia masiva en China. [231] [232]
Hay muchas otras formas en que se espera que la IA ayude a los malos actores, algunas de las cuales no pueden preverse. Por ejemplo, la IA con aprendizaje automático es capaz de diseñar decenas de miles de moléculas tóxicas en cuestión de horas. [233]
Los economistas han destacado con frecuencia los riesgos de despidos debidos a la IA y han especulado sobre el desempleo si no existe una política social adecuada para el pleno empleo. [234]
En el pasado, la tecnología ha tendido a aumentar en lugar de reducir el empleo total, pero los economistas reconocen que "estamos en territorio inexplorado" con la IA. [235] Una encuesta entre economistas mostró desacuerdo sobre si el uso cada vez mayor de robots e inteligencia artificial provocará un aumento sustancial del desempleo a largo plazo , pero en general coinciden en que podría ser un beneficio neto si se redistribuyen las ganancias de productividad . [236] Las estimaciones de riesgo varían; por ejemplo, en la década de 2010, Michael Osborne y Carl Benedikt Frey estimaron que el 47% de los empleos estadounidenses corren "alto riesgo" de posible automatización, mientras que un informe de la OCDE clasificó sólo el 9% de los empleos estadounidenses como "alto riesgo". [o] [238] La metodología de especular sobre los niveles futuros de empleo ha sido criticada por carecer de fundamento probatorio y por implicar que la tecnología, más que la política social, crea desempleo, a diferencia de los despidos. [234] En abril de 2023, se informó que el 70% de los trabajos para ilustradores de videojuegos chinos habían sido eliminados por la inteligencia artificial generativa. [239] [240]
A diferencia de oleadas anteriores de automatización, la inteligencia artificial puede eliminar muchos puestos de trabajo de la clase media; The Economist declaró en 2015 que "vale la pena tomar en serio la preocupación de que la IA pueda hacer a los empleos administrativos lo que la energía de vapor hizo a los obreros durante la Revolución Industrial". [241] Los trabajos en riesgo extremo van desde asistentes legales hasta cocineros de comida rápida, mientras que es probable que aumente la demanda laboral para profesiones relacionadas con el cuidado, que van desde la atención médica personal hasta el clero. [242]
Desde los primeros días del desarrollo de la inteligencia artificial, ha habido argumentos, por ejemplo los de Joseph Weizenbaum , sobre si las tareas que pueden realizar las computadoras en realidad deberían ser realizadas por ellas, dada la diferencia entre computadoras y humanos. y entre el cálculo cuantitativo y el juicio cualitativo basado en valores. [243]
Se ha argumentado que la IA se volverá tan poderosa que la humanidad podría perder el control de ella de manera irreversible. Esto podría, como afirmó el físico Stephen Hawking , " significar el fin de la raza humana ". [244] Este escenario ha sido común en la ciencia ficción, cuando una computadora o un robot de repente desarrolla una "autoconciencia" (o "sentiencia" o "conciencia") similar a la humana y se convierte en un personaje malévolo. [p] Estos escenarios de ciencia ficción son engañosos en varios sentidos.
En primer lugar, la IA no requiere una " sensibilidad " similar a la humana para ser un riesgo existencial. Los programas modernos de IA tienen objetivos específicos y utilizan el aprendizaje y la inteligencia para alcanzarlos. El filósofo Nick Bostrom argumentó que si uno le da casi cualquier objetivo a una IA suficientemente poderosa, esta puede optar por destruir a la humanidad para lograrlo (usó el ejemplo del gerente de una fábrica de clips ). [246] Stuart Russell da el ejemplo de un robot doméstico que intenta encontrar una manera de matar a su dueño para evitar que lo desconecte, razonando que "no puedes ir a buscar el café si estás muerto". [247] Para ser segura para la humanidad, una superinteligencia tendría que estar genuinamente alineada con la moralidad y los valores de la humanidad para que esté "fundamentalmente de nuestro lado". [248]
En segundo lugar, Yuval Noah Harari sostiene que la IA no requiere un cuerpo de robot o control físico para representar un riesgo existencial. Las partes esenciales de la civilización no son físicas. Cosas como las ideologías , las leyes , el gobierno , el dinero y la economía están hechas de lenguaje ; existen porque hay historias que miles de millones de personas creen. La prevalencia actual de desinformación sugiere que una IA podría usar el lenguaje para convencer a las personas de que crean en cualquier cosa, incluso para realizar acciones destructivas. [249]
Las opiniones entre los expertos y los conocedores de la industria son mixtas, con fracciones considerables preocupadas y despreocupadas por el riesgo de una eventual IA superinteligente. [250] Personalidades como Stephen Hawking , Bill Gates y Elon Musk , [251] así como pioneros de la IA como Yoshua Bengio , Stuart Russell , Demis Hassabis y Sam Altman , han expresado su preocupación por el riesgo existencial de la IA.
En mayo de 2023, Geoffrey Hinton anunció su dimisión de Google para poder "hablar libremente sobre los riesgos de la IA" sin "considerar cómo esto afecta a Google". [252] Mencionó en particular los riesgos de una adquisición de IA , [253] y enfatizó que para evitar los peores resultados, establecer pautas de seguridad requerirá la cooperación entre quienes compiten en el uso de la IA. [254]
En 2023, muchos destacados expertos en IA emitieron la declaración conjunta de que "Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear". [255]
Otros investigadores, sin embargo, se pronunciaron a favor de una visión menos distópica. El pionero de la IA, Juergen Schmidhuber, no firmó la declaración conjunta y enfatizó que en el 95% de los casos, la investigación en IA tiene como objetivo hacer "la vida humana más larga, más saludable y más fácil". [256] Si bien las herramientas que ahora se utilizan para mejorar vidas también pueden ser utilizadas por los malos actores, "también pueden usarse contra los malos actores". [257] [258] Andrew Ng también argumentó que "es un error caer en la exageración apocalíptica sobre la IA, y que los reguladores que lo hagan sólo beneficiarán a intereses creados". [259] Yann LeCun "se burla de los escenarios distópicos de sus pares de desinformación sobrecargada e incluso, eventualmente, de extinción humana". [260] A principios de la década de 2010, los expertos argumentaron que los riesgos son demasiado lejanos en el futuro para justificar la investigación o que los humanos serán valiosos desde la perspectiva de una máquina superinteligente. [261] Sin embargo, después de 2016, el estudio de los riesgos actuales y futuros y las posibles soluciones se convirtió en un área de investigación seria. [262]
Las IA amigables son máquinas que han sido diseñadas desde el principio para minimizar los riesgos y tomar decisiones que beneficien a los humanos. Eliezer Yudkowsky , quien acuñó el término, sostiene que desarrollar una IA amigable debería ser una prioridad de investigación más alta: puede requerir una gran inversión y debe completarse antes de que la IA se convierta en un riesgo existencial. [263]
Las máquinas con inteligencia tienen el potencial de utilizar su inteligencia para tomar decisiones éticas. El campo de la ética de las máquinas proporciona a las máquinas principios y procedimientos éticos para resolver dilemas éticos. [264] El campo de la ética de las máquinas también se llama moralidad computacional, [264] y fue fundado en un simposio de la AAAI en 2005. [265]
Otros enfoques incluyen los "agentes morales artificiales" de Wendell Wallach [266] y los tres principios de Stuart J. Russell para desarrollar máquinas demostrablemente beneficiosas. [267]
Las organizaciones activas en la comunidad de código abierto de IA incluyen Hugging Face , [268] Google , [269] EleutherAI y Meta . [270] Varios modelos de IA, como Llama 2 , Mistral o Stable Diffusion , se han hecho de peso abierto, [271] [272] lo que significa que su arquitectura y parámetros entrenados (los "pesos") están disponibles públicamente. Los modelos de peso abierto se pueden ajustar libremente , lo que permite a las empresas especializarlos con sus propios datos y para su propio caso de uso. [273] Los modelos de peso abierto son útiles para la investigación y la innovación, pero también pueden utilizarse indebidamente. Dado que se pueden ajustar, cualquier medida de seguridad incorporada, como oponerse a solicitudes dañinas, se puede eliminar hasta que se vuelva ineficaz. Algunos investigadores advierten que los futuros modelos de IA pueden desarrollar capacidades peligrosas (como el potencial de facilitar drásticamente el bioterrorismo ) y que una vez publicados en Internet, no se pueden eliminar de todas partes si es necesario. Recomiendan auditorías previas al lanzamiento y análisis de costo-beneficio. [274]
Se puede probar la permisibilidad ética de los proyectos de inteligencia artificial al diseñar, desarrollar e implementar un sistema de inteligencia artificial. Un marco de IA como Care and Act Framework que contiene los valores SUM, desarrollado por el Instituto Alan Turing, prueba proyectos en cuatro áreas principales: [275] [276]
Otros desarrollos en marcos éticos incluyen los decididos durante la Conferencia de Asilomar , la Declaración de Montreal para una IA responsable y la iniciativa Ética de los sistemas autónomos del IEEE, entre otros; [277] Sin embargo, estos principios no están exentos de críticas, especialmente en lo que respecta a las personas elegidas que contribuyen a estos marcos. [278]
La promoción del bienestar de las personas y comunidades a las que afectan estas tecnologías requiere la consideración de las implicaciones sociales y éticas en todas las etapas del diseño, desarrollo e implementación del sistema de IA, y la colaboración entre roles laborales como científicos de datos, gerentes de productos, ingenieros de datos, responsables de dominio. expertos y gerentes de entrega. [279]
El Instituto de Seguridad de IA del Reino Unido lanzó en 2024 un conjunto de herramientas de prueba llamado 'Inspect' para evaluaciones de seguridad de IA disponible bajo una licencia de código abierto del MIT que está disponible gratuitamente en GitHub y se puede mejorar con paquetes de terceros. Se puede utilizar para evaluar modelos de IA en una variedad de áreas que incluyen el conocimiento básico, la capacidad de razonar y las capacidades autónomas. [280]
La regulación de la inteligencia artificial es el desarrollo de políticas y leyes del sector público para promover y regular la IA; por tanto, está relacionado con la regulación más amplia de los algoritmos. [281] El panorama regulatorio y político para la IA es un problema emergente en las jurisdicciones a nivel mundial. [282] Según el Índice de IA de Stanford , el número anual de leyes relacionadas con la IA aprobadas en los 127 países encuestados saltó de una aprobada en 2016 a 37 aprobadas solo en 2022. [283] [284] Entre 2016 y 2020, más de 30 países adoptaron estrategias específicas para la IA. [285] La mayoría de los estados miembros de la UE habían publicado estrategias nacionales de IA, al igual que Canadá, China, India, Japón, Mauricio, la Federación de Rusia, Arabia Saudita, Emiratos Árabes Unidos, Estados Unidos y Vietnam. Otros estaban en proceso de elaborar su propia estrategia de IA, entre ellos Bangladesh, Malasia y Túnez. [285] La Asociación Global sobre Inteligencia Artificial se lanzó en junio de 2020 y señaló la necesidad de que la IA se desarrolle de acuerdo con los derechos humanos y los valores democráticos, para garantizar la confianza del público en la tecnología. [285] Henry Kissinger , Eric Schmidt y Daniel Huttenlocher publicaron una declaración conjunta en noviembre de 2021 pidiendo una comisión gubernamental para regular la IA. [286] En 2023, los líderes de OpenAI publicaron recomendaciones para la gobernanza de la superinteligencia, que creen que puede suceder en menos de 10 años. [287] En 2023, las Naciones Unidas también lanzaron un órgano asesor para brindar recomendaciones sobre la gobernanza de la IA; El organismo está compuesto por ejecutivos de empresas de tecnología, funcionarios gubernamentales y académicos. [288]
En una encuesta de Ipsos de 2022 , las actitudes hacia la IA variaron mucho según el país; El 78% de los ciudadanos chinos, pero sólo el 35% de los estadounidenses, coincidieron en que "los productos y servicios que utilizan IA tienen más beneficios que inconvenientes". [283] Una encuesta de Reuters /Ipsos de 2023 encontró que el 61% de los estadounidenses está de acuerdo, y el 22% no está de acuerdo, en que la IA plantea riesgos para la humanidad. [289] En una encuesta de Fox News de 2023 , el 35% de los estadounidenses pensó que era "muy importante" y un 41% adicional pensó que era "algo importante" que el gobierno federal regulara la IA, frente a un 13% que respondió "no muy importante". y el 8% respondió "nada importante". [290] [291]
En noviembre de 2023, se celebró la primera Cumbre mundial sobre seguridad de la IA en Bletchley Park (Reino Unido) para debatir los riesgos a corto y largo plazo de la IA y la posibilidad de marcos regulatorios obligatorios y voluntarios. [292] 28 países, incluidos Estados Unidos, China y la Unión Europea, emitieron una declaración al comienzo de la cumbre, pidiendo cooperación internacional para gestionar los desafíos y riesgos de la inteligencia artificial. [293] [294] En mayo de 2024, en la Cumbre de IA de Seúl , 16 empresas mundiales de tecnología de IA acordaron compromisos de seguridad en el desarrollo de la IA. [295] [296]
El estudio del razonamiento mecánico o "formal" comenzó con los filósofos y matemáticos de la antigüedad. El estudio de la lógica condujo directamente a la teoría de la computación de Alan Turing , que sugería que una máquina, mezclando símbolos tan simples como "0" y "1", podría simular cualquier forma concebible de razonamiento matemático. [297] [4] Esto, junto con descubrimientos simultáneos en cibernética , teoría de la información y neurobiología , llevó a los investigadores a considerar la posibilidad de construir un "cerebro electrónico". [q] Desarrollaron varias áreas de investigación que pasarían a formar parte de la IA, [299] como el diseño de McCullouch y Pitts para "neuronas artificiales" en 1943, [119] y el influyente artículo de Turing de 1950 ' Computing Machinery and Intelligence ', que introdujo la prueba de Turing y demostró que la "inteligencia de máquina" era plausible. [300] [4]
El campo de la investigación de la IA se fundó en un taller en Dartmouth College en 1956. [r] [5] Los asistentes se convirtieron en los líderes de la investigación de la IA en la década de 1960. [s] Ellos y sus estudiantes produjeron programas que la prensa describió como "asombrosos": [t] las computadoras aprendían estrategias de damas , resolvían problemas de álgebra, demostraban teoremas lógicos y hablaban inglés. [u] [8] Se crearon laboratorios de inteligencia artificial en varias universidades británicas y estadounidenses a finales de los años cincuenta y principios de los sesenta. [4]
Los investigadores de los años 1960 y 1970 estaban convencidos de que sus métodos eventualmente lograrían crear una máquina con inteligencia general y consideraban que este era el objetivo de su campo. [304] En 1965, Herbert Simon predijo que "las máquinas serán capaces, dentro de veinte años, de realizar cualquier trabajo que un hombre pueda hacer". [305] En 1967, Marvin Minsky estuvo de acuerdo y escribió: "dentro de una generación... el problema de crear 'inteligencia artificial' se resolverá sustancialmente". [306] Sin embargo, habían subestimado la dificultad del problema. [v] En 1974, tanto el gobierno estadounidense como el británico interrumpieron la investigación exploratoria en respuesta a las críticas de Sir James Lighthill [308] y a la presión constante del Congreso estadounidense para financiar proyectos más productivos . [309] Se entendió que el libro Perceptrons de Minsky y Papert demostraba que las redes neuronales artificiales nunca serían útiles para resolver tareas del mundo real, desacreditando así el enfoque por completo. [310] Siguió el " invierno de la IA ", un período en el que era difícil obtener financiación para proyectos de IA. [10]
A principios de la década de 1980, la investigación de la IA revivió gracias al éxito comercial de los sistemas expertos , [311] una forma de programa de IA que simulaba el conocimiento y las habilidades analíticas de los expertos humanos. En 1985, el mercado de la IA había superado los mil millones de dólares. Al mismo tiempo, el proyecto informático de quinta generación de Japón inspiró a los gobiernos de Estados Unidos y Gran Bretaña a restablecer la financiación para la investigación académica . [9] Sin embargo, a partir del colapso del mercado de máquinas Lisp en 1987, la IA volvió a caer en descrédito y comenzó un segundo invierno más duradero. [11]
Hasta ese momento, la mayor parte de la financiación de AI se había destinado a proyectos que utilizaban símbolos de alto nivel para representar objetos mentales como planes, metas, creencias y hechos conocidos. En la década de 1980, algunos investigadores comenzaron a dudar de que este enfoque fuera capaz de imitar todos los procesos de la cognición humana, especialmente la percepción , la robótica , el aprendizaje y el reconocimiento de patrones , [312] y comenzaron a buscar enfoques "subsimbólicos". [313] Rodney Brooks rechazó la "representación" en general y se centró directamente en la ingeniería de máquinas que se mueven y sobreviven. [w] Judea Pearl , Lofti Zadeh y otros desarrollaron métodos que manejaban información incompleta e incierta haciendo conjeturas razonables en lugar de lógica precisa. [90] [318] Pero el desarrollo más importante fue el resurgimiento del " conexionismo ", incluida la investigación de redes neuronales, por parte de Geoffrey Hinton y otros. [319] En 1990, Yann LeCun demostró con éxito que las redes neuronales convolucionales pueden reconocer dígitos escritos a mano, la primera de muchas aplicaciones exitosas de las redes neuronales. [320]
La IA restauró gradualmente su reputación a finales de los años 1990 y principios del siglo XXI explotando métodos matemáticos formales y encontrando soluciones específicas a problemas específicos. Este enfoque " estrecho " y "formal" permitió a los investigadores producir resultados verificables y colaborar con otros campos (como la estadística , la economía y las matemáticas ). [321] En el año 2000, las soluciones desarrolladas por investigadores de IA se utilizaban ampliamente, aunque en la década de 1990 rara vez se describían como "inteligencia artificial". [322] Sin embargo, varios investigadores académicos comenzaron a preocuparse de que la IA ya no persiguiera su objetivo original de crear máquinas versátiles y totalmente inteligentes. Alrededor de 2002, fundaron el subcampo de inteligencia artificial general (o "AGI"), que en la década de 2010 contaba con varias instituciones bien financiadas. [15]
El aprendizaje profundo comenzó a dominar los puntos de referencia de la industria en 2012 y se adoptó en todo el campo. [12] Para muchas tareas específicas, se abandonaron otros métodos. [x] El éxito del aprendizaje profundo se basó tanto en mejoras de hardware ( computadoras más rápidas , [324] unidades de procesamiento de gráficos , computación en la nube [325] ) como en el acceso a grandes cantidades de datos [326] (incluidos conjuntos de datos seleccionados, [325] como ImageNet ). El éxito del aprendizaje profundo provocó un enorme aumento del interés y la financiación en IA. [y] La cantidad de investigación sobre aprendizaje automático (medida por el total de publicaciones) aumentó un 50% en los años 2015-2019. [285]
En 2016, las cuestiones de equidad y el uso indebido de la tecnología se catapultaron al centro del escenario en las conferencias sobre aprendizaje automático, las publicaciones aumentaron enormemente, hubo financiación disponible y muchos investigadores reorientaron sus carreras en estos temas. El problema de la alineación se convirtió en un campo serio de estudio académico. [262]
A finales de la década de 1920 y principios de la década de 2020, las empresas de AGI comenzaron a ofrecer programas que generaron un enorme interés. En 2015, AlphaGo , desarrollado por DeepMind , venció al campeón mundial de jugadores de Go . Al programa se le enseñaron sólo las reglas del juego y se desarrolló la estrategia por sí mismo. GPT-3 es un modelo de lenguaje grande lanzado en 2020 por OpenAI y es capaz de generar texto similar a un humano de alta calidad. [327] Estos programas, y otros, inspiraron un agresivo auge de la IA , donde las grandes empresas comenzaron a invertir miles de millones en investigación de IA. Según AI Impacts, alrededor de 2022 se invirtieron alrededor de 50 mil millones de dólares anuales en "IA" solo en los EE. UU. y alrededor del 20% de los nuevos graduados de doctorado en Ciencias de la Computación de los EE. UU. se han especializado en "IA". [328] En 2022 existían alrededor de 800.000 puestos vacantes de trabajo relacionados con la "IA" en EE. UU. [329]
Alan Turing escribió en 1950: "Propongo considerar la pregunta '¿pueden pensar las máquinas'?". [330] Aconsejó cambiar la pregunta de si una máquina "piensa" a "si es posible o no que una máquina muestre un comportamiento inteligente". [330] Ideó la prueba de Turing, que mide la capacidad de una máquina para simular la conversación humana. [300] Dado que sólo podemos observar el comportamiento de la máquina, no importa si "realmente" está pensando o si literalmente tiene una "mente". Turing señala que no podemos determinar estas cosas sobre otras personas pero "es habitual tener una convención educada de que todo el mundo piensa". [331]
Russell y Norvig están de acuerdo con Turing en que la inteligencia debe definirse en términos de comportamiento externo, no de estructura interna. [1] Sin embargo, son fundamentales que la prueba requiera que la máquina imite a los humanos. " Los textos de ingeniería aeronáutica ", escribieron, "no definen el objetivo de su campo como fabricar 'máquinas que vuelen tan exactamente como las palomas que puedan engañar a otras palomas '" . [333] El fundador de AI, John McCarthy , estuvo de acuerdo y escribió que "Artificial La inteligencia no es, por definición, una simulación de la inteligencia humana". [334]
McCarthy define la inteligencia como "la parte computacional de la capacidad de alcanzar objetivos en el mundo". [335] Otro fundador de la IA, Marvin Minsky, la describe de manera similar como "la capacidad de resolver problemas difíciles". [336] El principal libro de texto sobre IA la define como el estudio de agentes que perciben su entorno y toman acciones que maximizan sus posibilidades de lograr objetivos definidos. [1] Estas definiciones ven la inteligencia en términos de problemas bien definidos con soluciones bien definidas, donde tanto la dificultad del problema como el desempeño del programa son medidas directas de la "inteligencia" de la máquina, y ninguna otra discusión filosófica. es necesario, o puede que ni siquiera sea posible.
Google, [337] un importante profesional en el campo de la IA, adoptó otra definición . Esta definición estipula la capacidad de los sistemas para sintetizar información como manifestación de la inteligencia, de forma similar a como se define en la inteligencia biológica.
Algunos autores han sugerido, en la práctica, que la definición de IA es vaga y difícil de definir, con controversias sobre si los algoritmos clásicos deberían clasificarse como IA, [338] y muchas empresas durante el auge de la IA de principios de la década de 2020 utilizaron el término como estrategia de marketing. palabra de moda , a menudo incluso si "en realidad no usaron la IA de manera material". [339]
Ninguna teoría o paradigma unificador establecido ha guiado la investigación de la IA durante la mayor parte de su historia. [z] El éxito sin precedentes del aprendizaje automático estadístico en la década de 2010 eclipsó todos los demás enfoques (hasta tal punto que algunas fuentes, especialmente en el mundo empresarial, utilizan el término "inteligencia artificial" para referirse a "aprendizaje automático con redes neuronales"). Este enfoque es principalmente subsimbólico , suave y estrecho . Los críticos argumentan que es posible que las generaciones futuras de investigadores de IA deban revisar estas cuestiones.
La IA simbólica (o " GOFAI ") [341] simuló el razonamiento consciente de alto nivel que las personas utilizan cuando resuelven acertijos, expresan razonamientos legales y hacen matemáticas. Tuvieron mucho éxito en tareas "inteligentes" como álgebra o pruebas de coeficiente intelectual. En la década de 1960, Newell y Simon propusieron la hipótesis de los sistemas de símbolos físicos : "Un sistema de símbolos físicos tiene los medios necesarios y suficientes para una acción inteligente general". [342]
Sin embargo, el enfoque simbólico fracasó en muchas tareas que los humanos resuelven fácilmente, como aprender, reconocer un objeto o razonar con sentido común. La paradoja de Moravec es el descubrimiento de que las tareas "inteligentes" de alto nivel eran fáciles para la IA, pero las tareas "instintivas" de bajo nivel eran extremadamente difíciles. [343] El filósofo Hubert Dreyfus había argumentado desde la década de 1960 que la experiencia humana depende del instinto inconsciente más que de la manipulación consciente de los símbolos, y de tener una "sensación" de la situación, en lugar de un conocimiento simbólico explícito. [344] Aunque sus argumentos habían sido ridiculizados e ignorados cuando se presentaron por primera vez, finalmente, la investigación de IA llegó a estar de acuerdo con él. [aa] [20]
La cuestión no está resuelta: el razonamiento subsimbólico puede cometer muchos de los mismos errores inescrutables que comete la intuición humana, como el sesgo algorítmico . Críticos como Noam Chomsky sostienen que seguirá siendo necesario continuar la investigación sobre la IA simbólica para alcanzar la inteligencia general, [346] [347] en parte porque la IA subsimbólica es un alejamiento de la IA explicable : puede ser difícil o imposible entender por qué un moderno programa estadístico de IA tomó una decisión particular. El campo emergente de la inteligencia artificial neurosimbólica intenta unir ambos enfoques.
Los "neats" esperan que el comportamiento inteligente se describa utilizando principios simples y elegantes (como la lógica , la optimización o las redes neuronales ). Los "desaliñados" esperan que esto necesariamente requiera resolver una gran cantidad de problemas no relacionados. Los pulcros defienden sus programas con rigor teórico, los desaliñados se basan principalmente en pruebas incrementales para ver si funcionan. Esta cuestión se debatió activamente en las décadas de 1970 y 1980, [348] pero finalmente se consideró irrelevante. La IA moderna tiene elementos de ambos.
Encontrar una solución demostrablemente correcta u óptima es difícil para muchos problemas importantes. [19] La computación blanda es un conjunto de técnicas, incluidos algoritmos genéticos , lógica difusa y redes neuronales, que son tolerantes a la imprecisión, la incertidumbre, la verdad parcial y la aproximación. La computación blanda se introdujo a finales de la década de 1980 y los programas de IA más exitosos del siglo XXI son ejemplos de computación blanda con redes neuronales.
Los investigadores de IA están divididos en cuanto a si perseguir los objetivos de la inteligencia artificial general y la superinteligencia directamente o resolver tantos problemas específicos como sea posible (IA restringida) con la esperanza de que estas soluciones conduzcan indirectamente a los objetivos a largo plazo del campo. [349] [350] La inteligencia general es difícil de definir y medir, y la IA moderna ha tenido éxitos más verificables al centrarse en problemas específicos con soluciones específicas. El subcampo experimental de la inteligencia artificial general estudia exclusivamente esta área.
La filosofía de la mente no sabe si una máquina puede tener mente , conciencia y estados mentales , en el mismo sentido que los seres humanos. Esta cuestión considera las experiencias internas de la máquina, más que su comportamiento externo. La investigación convencional sobre IA considera que esta cuestión es irrelevante porque no afecta los objetivos del campo: construir máquinas que puedan resolver problemas utilizando inteligencia. Russell y Norvig añaden que "[e]l proyecto adicional de hacer que una máquina sea consciente exactamente como lo son los humanos no es algo que estemos preparados para asumir". [351] Sin embargo, la cuestión se ha vuelto central para la filosofía de la mente. También suele ser la cuestión central en cuestión en la inteligencia artificial en la ficción .
David Chalmers identificó dos problemas en la comprensión de la mente, a los que denominó problemas "difíciles" y "fáciles" de la conciencia. [352] El problema fácil es comprender cómo el cerebro procesa señales, hace planes y controla el comportamiento. El problema difícil es explicar cómo se siente esto o por qué debería sentirse como algo, asumiendo que tenemos razón al pensar que realmente se siente como algo (el ilusionismo de la conciencia de Dennett dice que esto es una ilusión). Si bien el procesamiento de la información humana es fácil de explicar, la experiencia subjetiva humana es difícil de explicar. Por ejemplo, es fácil imaginar a una persona daltónica que ha aprendido a identificar qué objetos en su campo de visión son rojos, pero no está claro qué se necesitaría para que la persona sepa cómo se ve el rojo . [353]
El computacionalismo es la posición en la filosofía de la mente de que la mente humana es un sistema de procesamiento de información y que el pensamiento es una forma de informática. El computacionalismo sostiene que la relación entre mente y cuerpo es similar o idéntica a la relación entre software y hardware y, por tanto, puede ser una solución al problema mente-cuerpo . Esta posición filosófica se inspiró en el trabajo de investigadores de IA y científicos cognitivos en la década de 1960 y fue propuesta originalmente por los filósofos Jerry Fodor y Hilary Putnam . [354]
El filósofo John Searle caracterizó esta posición como una " IA fuerte ": "Un ordenador adecuadamente programado con las entradas y salidas correctas tendría una mente exactamente en el mismo sentido que la tienen los seres humanos". [ab] Searle contrarresta esta afirmación con su argumento de la habitación china, que intenta mostrar que, incluso si una máquina simula perfectamente el comportamiento humano, todavía no hay razón para suponer que también tenga una mente. [358]
Es difícil o imposible evaluar de manera confiable si una IA avanzada es sensible (tiene la capacidad de sentir) y, de ser así, en qué grado. [359] Pero si existe una posibilidad significativa de que una determinada máquina pueda sentir y sufrir, entonces puede tener derecho a ciertos derechos o medidas de protección del bienestar, de manera similar a los animales. [360] [361] La sapiencia (un conjunto de capacidades relacionadas con una alta inteligencia, como el discernimiento o la autoconciencia ) puede proporcionar otra base moral para los derechos de la IA. [360] Los derechos de los robots también se proponen a veces como una forma práctica de integrar agentes autónomos en la sociedad. [362]
En 2017, la Unión Europea consideró otorgar "personalidad electrónica" a algunos de los sistemas de inteligencia artificial más capaces. Al igual que el estatuto jurídico de las empresas, habría conferido derechos pero también responsabilidades. [363] Los críticos argumentaron en 2018 que otorgar derechos a los sistemas de IA restaría importancia a los derechos humanos y que la legislación debería centrarse en las necesidades de los usuarios en lugar de escenarios futuristas especulativos. También señalaron que los robots carecían de autonomía para participar por sí solos en la sociedad. [364] [365]
Los avances en la IA aumentaron el interés en el tema. Los defensores del bienestar y los derechos de la IA a menudo argumentan que la sensibilidad de la IA, si surge, sería particularmente fácil de negar. Advierten que esto puede ser un punto ciego moral análogo a la esclavitud o la agricultura industrial , que podría conducir a un sufrimiento a gran escala si se crea una IA sensible y se explota descuidadamente. [361] [360]
Una superinteligencia es un agente hipotético que poseería una inteligencia muy superior a la de la mente humana más brillante y dotada. [350]
Si la investigación sobre inteligencia artificial general produjera software suficientemente inteligente, podría reprogramarse y mejorarse . El software mejorado sería incluso mejor a la hora de mejorarse a sí mismo, lo que llevaría a lo que IJ Good llamó una " explosión de inteligencia " y Vernor Vinge llamó una " singularidad ". [366]
Sin embargo, las tecnologías no pueden mejorar exponencialmente de forma indefinida y, por lo general, siguen una curva en forma de S , desacelerando cuando alcanzan los límites físicos de lo que la tecnología puede hacer. [367]
El diseñador de robots Hans Moravec , el cibernético Kevin Warwick y el inventor Ray Kurzweil han predicho que los humanos y las máquinas se fusionarán en el futuro en cyborgs que serán más capaces y poderosos que cualquiera de los dos. Esta idea, llamada transhumanismo, tiene raíces en Aldous Huxley y Robert Ettinger . [368]
Edward Fredkin sostiene que "la inteligencia artificial es la siguiente etapa en la evolución", una idea propuesta por primera vez por " Darwin entre las máquinas " de Samuel Butler ya en 1863, y ampliada por George Dyson en su libro de 1998 Darwin entre las máquinas. : La evolución de la inteligencia global . [369]
Los seres artificiales con capacidad de pensamiento han aparecido como dispositivos narrativos desde la antigüedad [370] y han sido un tema persistente en la ciencia ficción . [371]
Un tropo común en estas obras comenzó con Frankenstein de Mary Shelley , donde una creación humana se convierte en una amenaza para sus amos. Esto incluye obras como 2001: Odisea en el espacio, de Arthur C. Clarke y Stanley Kubrick (ambas de 1968), con HAL 9000 , el ordenador asesino a cargo de la nave espacial Discovery One , así como Terminator (1984) y Matrix (1999). ). En contraste, los raros robots leales como Gort de El día que la Tierra se detuvo (1951) y Bishop de Aliens (1986) son menos prominentes en la cultura popular. [372]
Isaac Asimov introdujo las Tres Leyes de la Robótica en muchas historias, sobre todo con la computadora superinteligente " Multivac ". Las leyes de Asimov a menudo se mencionan durante discusiones no profesionales sobre la ética de las máquinas; [373] Si bien casi todos los investigadores de inteligencia artificial están familiarizados con las leyes de Asimov a través de la cultura popular, generalmente consideran que las leyes son inútiles por muchas razones, una de las cuales es su ambigüedad. [374]
Varias obras utilizan la IA para obligarnos a afrontar la cuestión fundamental de qué nos hace humanos, mostrándonos seres artificiales que tienen la capacidad de sentir y, por tanto, de sufrir. Esto aparece en RUR de Karel Čapek , las películas AI Artificial Intelligence y Ex Machina , así como en la novela ¿Sueñan los androides con ovejas eléctricas? , de Philip K. Dick . Dick considera la idea de que nuestra comprensión de la subjetividad humana se ve alterada por la tecnología creada con inteligencia artificial. [375]
Los dos libros de texto más utilizados en 2023 (ver el programa de estudios abierto):
Estos fueron los cuatro libros de texto sobre IA más utilizados en 2008:
Ediciones posteriores:
En cambio, Estados Unidos ha desarrollado una nueva área de dominio que el resto del mundo ve con una mezcla de asombro, envidia y resentimiento: la inteligencia artificial... Desde modelos e investigaciones de inteligencia artificial hasta computación en la nube y capital de riesgo, las empresas estadounidenses, Las universidades y los laboratorios de investigación (y sus afiliados en países aliados) parecen tener una enorme ventaja tanto en el desarrollo de IA de vanguardia como en su comercialización. El valor de las inversiones de capital de riesgo de Estados Unidos en nuevas empresas de IA supera el del resto del mundo combinado.