La inteligencia artificial ( IA ) es la inteligencia de las máquinas o el software , a diferencia de la inteligencia de los humanos u otros animales. Es un campo de estudio de la informática que desarrolla y estudia máquinas inteligentes. Estas máquinas pueden denominarse IA.
La tecnología de IA se utiliza ampliamente en la industria, el gobierno y la ciencia. Algunas aplicaciones de alto perfil son: motores de búsqueda web avanzados (por ejemplo, Búsqueda de Google ), sistemas de recomendación (utilizados por YouTube , Amazon y Netflix ), comprensión del habla humana (como Google Assistant , Siri y Alexa ), vehículos autónomos. (p. ej., Waymo ), herramientas generativas y creativas ( ChatGPT y AI art ) y juegos y análisis sobrehumanos en juegos de estrategia (como el ajedrez y el Go ). [1]
Alan Turing fue la primera persona en realizar una investigación sustancial en el campo que llamó Inteligencia Artificial. [2] La inteligencia artificial se fundó como disciplina académica en 1956. [3] El campo pasó por múltiples ciclos de optimismo [4] [5] seguidos de decepción y pérdida de financiación. [6] [7] La financiación y el interés aumentaron enormemente después de 2012, cuando el aprendizaje profundo superó todas las técnicas de IA anteriores, [8] y después de 2017 con la arquitectura transformadora . [9] Esto condujo a la primavera de la IA a principios de la década de 2020, con empresas, universidades y laboratorios con sede abrumadoramente en los Estados Unidos que fueron pioneros en avances significativos en inteligencia artificial. [10]
Los diversos subcampos de la investigación de la IA se centran en objetivos particulares y el uso de herramientas particulares. Los objetivos tradicionales de la investigación en IA incluyen el razonamiento , la representación del conocimiento , la planificación , el aprendizaje , el procesamiento del lenguaje natural , la percepción y el apoyo a la robótica . [a] La inteligencia general (la capacidad de completar cualquier tarea que pueda realizar un ser humano) se encuentra entre los objetivos a largo plazo del campo. [11]
Para resolver estos problemas, los investigadores de IA han adaptado e integrado una amplia gama de técnicas de resolución de problemas, incluida la búsqueda y la optimización matemática , la lógica formal, las redes neuronales artificiales y los métodos basados en estadística , investigación de operaciones y economía . [b] La IA también se basa en la psicología , la lingüística , la filosofía , la neurociencia y otros campos. [12]
El problema general de simular (o crear) inteligencia se ha dividido en subproblemas. Estos consisten en rasgos o capacidades particulares que los investigadores esperan que muestre un sistema inteligente. Los rasgos que se describen a continuación han recibido la mayor atención y cubren el alcance de la investigación de la IA. [a]
Los primeros investigadores desarrollaron algoritmos que imitaban el razonamiento paso a paso que utilizan los humanos cuando resuelven acertijos o hacen deducciones lógicas. [13] A finales de los años 1980 y 1990, se desarrollaron métodos para tratar con información incierta o incompleta, empleando conceptos de probabilidad y economía . [14]
Muchos de estos algoritmos son insuficientes para resolver grandes problemas de razonamiento porque experimentan una "explosión combinatoria": se volvieron exponencialmente más lentos a medida que los problemas crecían. [15] Incluso los humanos rara vez utilizan la deducción paso a paso que las primeras investigaciones sobre IA podrían modelar. Resuelven la mayoría de sus problemas utilizando juicios rápidos e intuitivos. [16] El razonamiento preciso y eficiente es un problema sin resolver.
La representación del conocimiento y la ingeniería del conocimiento [17] permiten que los programas de IA respondan preguntas de manera inteligente y hagan deducciones sobre hechos del mundo real. Las representaciones de conocimiento formal se utilizan en la indexación y recuperación basada en contenido, [18] interpretación de escenas, [19] apoyo a decisiones clínicas, [20] descubrimiento de conocimiento (extracción de inferencias "interesantes" y procesables de grandes bases de datos), [21] y otras áreas. . [22]
Una base de conocimientos es un conjunto de conocimientos representados en una forma que puede ser utilizada por un programa. Una ontología es el conjunto de objetos, relaciones, conceptos y propiedades utilizados por un dominio particular de conocimiento. [23] Las bases de conocimiento necesitan representar cosas tales como: objetos, propiedades, categorías y relaciones entre objetos; [24] situaciones, acontecimientos, estados y tiempo; [25] causas y efectos; [26] conocimiento sobre el conocimiento (lo que sabemos sobre lo que otras personas saben); [27] razonamiento predeterminado (cosas que los humanos suponen que son ciertas hasta que se las dice de manera diferente y seguirán siendo ciertas incluso cuando otros hechos cambien); [28] y muchos otros aspectos y dominios del conocimiento.
Entre los problemas más difíciles en la representación del conocimiento se encuentran: la amplitud del conocimiento de sentido común (el conjunto de hechos atómicos que la persona promedio conoce es enorme); [29] y la forma subsimbólica de la mayor parte del conocimiento de sentido común (gran parte de lo que la gente sabe no se representa como "hechos" o "declaraciones" que puedan expresar verbalmente). [16] También está la dificultad de la adquisición de conocimientos , el problema de obtener conocimientos para aplicaciones de IA. [C]
Un "agente" es cualquier cosa que percibe y actúa en el mundo. Un agente racional tiene objetivos o preferencias y toma medidas para lograrlos. [d] [32] En la planificación automatizada , el agente tiene un objetivo específico. [33] En la toma de decisiones automatizada , el agente tiene preferencias: hay algunas situaciones en las que preferiría estar y otras que está tratando de evitar. El agente que toma las decisiones asigna un número a cada situación (llamado " utilidad ") que mide cuánto la prefiere el agente. Para cada acción posible, puede calcular la " utilidad esperada ": la utilidad de todos los resultados posibles de la acción, ponderada por la probabilidad de que se produzca el resultado. Luego puede elegir la acción con la máxima utilidad esperada. [34]
En la planificación clásica , el agente sabe exactamente cuál será el efecto de cualquier acción. [35] Sin embargo, en la mayoría de los problemas del mundo real, el agente puede no estar seguro de la situación en la que se encuentra (es "desconocida" o "no observable") y puede no saber con certeza qué sucederá después de cada acción posible ( no es "determinista"). Debe elegir una acción haciendo una suposición probabilística y luego reevaluar la situación para ver si la acción funcionó. [36]
En algunos problemas, las preferencias del agente pueden ser inciertas, especialmente si hay otros agentes o humanos involucrados. Estos pueden aprenderse (por ejemplo, con aprendizaje por refuerzo inverso ) o el agente puede buscar información para mejorar sus preferencias. [37] La teoría del valor de la información se puede utilizar para sopesar el valor de acciones exploratorias o experimentales. [38] El espacio de posibles acciones y situaciones futuras suele ser intratablemente grande, por lo que los agentes deben tomar acciones y evaluar situaciones sin estar seguros de cuál será el resultado.
Un proceso de decisión de Markov tiene un modelo de transición que describe la probabilidad de que una acción particular cambie el estado de una manera particular, y una función de recompensa que proporciona la utilidad de cada estado y el costo de cada acción. Una política asocia una decisión a cada estado posible. La política podría calcularse (por ejemplo, mediante iteración ), ser heurística o aprenderse. [39]
La teoría de juegos describe el comportamiento racional de múltiples agentes que interactúan y se utiliza en programas de inteligencia artificial que toman decisiones que involucran a otros agentes. [40]
El aprendizaje automático es el estudio de programas que pueden mejorar su desempeño en una tarea determinada de forma automática. [41] Ha sido parte de la IA desde el principio. [mi]
Hay varios tipos de aprendizaje automático. El aprendizaje no supervisado analiza un flujo de datos, encuentra patrones y hace predicciones sin ninguna otra guía. [44] El aprendizaje supervisado requiere que un ser humano etiquete los datos de entrada primero, y se presenta en dos variedades principales: clasificación (donde el programa debe aprender a predecir a qué categoría pertenece la entrada) y regresión (donde el programa debe deducir una función numérica basada en en entrada numérica). [45]
En el aprendizaje por refuerzo, el agente es recompensado por las buenas respuestas y castigado por las malas. El agente aprende a elegir respuestas que se clasifican como "buenas". [46] El aprendizaje por transferencia es cuando el conocimiento adquirido de un problema se aplica a un nuevo problema. [47] El aprendizaje profundo es un tipo de aprendizaje automático que ejecuta entradas a través de redes neuronales artificiales de inspiración biológica para todos estos tipos de aprendizaje. [48]
La teoría del aprendizaje computacional puede evaluar a los alumnos por complejidad computacional , por complejidad de muestra (cuántos datos se requieren) o por otras nociones de optimización . [49]
El procesamiento del lenguaje natural (NLP) [50] permite que los programas lean, escriban y se comuniquen en idiomas humanos como el inglés . Los problemas específicos incluyen reconocimiento de voz , síntesis de voz , traducción automática , extracción de información , recuperación de información y respuesta a preguntas . [51]
Los primeros trabajos, basados en la gramática generativa y las redes semánticas de Noam Chomsky , tenían dificultades con la desambiguación del sentido de las palabras [f] a menos que se limitaran a pequeños dominios llamados " micromundos " (debido al problema del conocimiento del sentido común [29] ). Margaret Masterman creía que era el significado, y no la gramática, la clave para comprender los idiomas, y que los tesauros y no los diccionarios deberían ser la base de la estructura computacional del lenguaje.
Las técnicas modernas de aprendizaje profundo para PNL incluyen la incrustación de palabras (que representan palabras, generalmente como vectores que codifican su significado), [52] transformadores (una arquitectura de aprendizaje profundo que utiliza un mecanismo de atención ), [53] y otras. [54] En 2019, los modelos de lenguaje generativo transformador previamente entrenado (o "GPT") comenzaron a generar texto coherente, [55] [56] y para 2023 estos modelos pudieron obtener puntuaciones de nivel humano en el examen de la barra , SAT. prueba, prueba GRE y muchas otras aplicaciones del mundo real. [57]
La percepción de la máquina es la capacidad de utilizar entradas de sensores (como cámaras, micrófonos, señales inalámbricas, lidar activo , sonar, radar y sensores táctiles ) para deducir aspectos del mundo. La visión por computadora es la capacidad de analizar información visual. [58]
El campo incluye reconocimiento de voz , [59] clasificación de imágenes , [60] reconocimiento facial , reconocimiento de objetos , [61] y percepción robótica . [62]
La computación afectiva es un paraguas interdisciplinario que comprende sistemas que reconocen, interpretan, procesan o simulan los sentimientos, las emociones y el estado de ánimo humanos . [64] Por ejemplo, algunos asistentes virtuales están programados para hablar en forma conversacional o incluso para bromear con humor; los hace parecer más sensibles a la dinámica emocional de la interacción humana, o para facilitar la interacción entre humanos y computadoras .
Sin embargo, esto tiende a dar a los usuarios ingenuos una concepción poco realista de la inteligencia de los agentes informáticos existentes. [65] Los éxitos moderados relacionados con la informática afectiva incluyen el análisis de sentimientos textuales y, más recientemente, el análisis de sentimientos multimodal , en el que la IA clasifica los afectos mostrados por un sujeto grabado en vídeo. [66]
Una máquina con inteligencia artificial general debería ser capaz de resolver una amplia variedad de problemas con una amplitud y versatilidad similar a la inteligencia humana. [11]
La investigación de IA utiliza una amplia variedad de técnicas para lograr los objetivos anteriores. [b]
La IA puede resolver muchos problemas buscando inteligentemente entre muchas soluciones posibles. [67] Hay dos tipos muy diferentes de búsqueda utilizados en IA: búsqueda en el espacio de estados y búsqueda local .
La búsqueda en el espacio de estados busca a través de un árbol de estados posibles para intentar encontrar un estado objetivo. [68] Por ejemplo, los algoritmos de planificación buscan a través de árboles de metas y submetas, intentando encontrar un camino hacia una meta objetivo, un proceso llamado análisis de medios-fines . [69]
Las búsquedas exhaustivas simples [70] rara vez son suficientes para la mayoría de los problemas del mundo real: el espacio de búsqueda (el número de lugares para buscar) crece rápidamente hasta alcanzar cifras astronómicas . El resultado es una búsqueda demasiado lenta o que nunca se completa. [15] La " heurística " o las "reglas generales" pueden ayudar a priorizar las opciones que tienen más probabilidades de alcanzar un objetivo. [71]
La búsqueda adversaria se utiliza para programas de juegos , como ajedrez o Go. Busca en un árbol de posibles movimientos y contramovimientos, buscando una posición ganadora. [72]
La búsqueda local utiliza optimización matemática para encontrar una solución a un problema. Comienza con algún tipo de conjetura y la refina gradualmente. [73]
El descenso de gradiente es un tipo de búsqueda local que optimiza un conjunto de parámetros numéricos ajustándolos incrementalmente para minimizar una función de pérdida . Las variantes del descenso de gradiente se utilizan habitualmente para entrenar redes neuronales. [74]
Otro tipo de búsqueda local es la computación evolutiva , que tiene como objetivo mejorar iterativamente un conjunto de soluciones candidatas "mutándolas" y "recombinándolas", seleccionando sólo las más aptas para sobrevivir en cada generación. [75]
Los procesos de búsqueda distribuidos pueden coordinarse mediante algoritmos de inteligencia de enjambre . Dos algoritmos de enjambre populares utilizados en la búsqueda son la optimización de enjambre de partículas (inspirada en las bandadas de aves ) y la optimización de colonias de hormigas (inspirada en los senderos de hormigas ). [76]
La lógica formal se utiliza para el razonamiento y la representación del conocimiento . [77] La lógica formal se presenta en dos formas principales: lógica proposicional (que opera con afirmaciones que son verdaderas o falsas y utiliza conectivos lógicos como "y", "o", "no" e "implica") [78] y predicado. lógica (que también opera sobre objetos, predicados y relaciones y utiliza cuantificadores como " Cada X es una Y " y "Hay algunas X que son Y "). [79]
La inferencia lógica (o deducción ) es el proceso de probar un nuevo enunciado ( conclusión ) a partir de otros enunciados que ya se sabe que son verdaderos (las premisas ). [80] Una base de conocimiento lógico también maneja consultas y afirmaciones como un caso especial de inferencia. [81] Una regla de inferencia describe cuál es un paso válido en una prueba. La regla de inferencia más general es la resolución . [82] La inferencia se puede reducir a realizar una búsqueda para encontrar un camino que conduzca de las premisas a las conclusiones, donde cada paso es la aplicación de una regla de inferencia . [83] La inferencia realizada de esta manera es intratable excepto para pruebas breves en dominios restringidos. No se ha descubierto ningún método eficaz, potente y general.
La lógica difusa asigna un "grado de verdad" entre 0 y 1. Por lo tanto, puede manejar proposiciones vagas y parcialmente verdaderas. [84] Las lógicas no monótonas están diseñadas para manejar el razonamiento predeterminado . [28] Se han desarrollado otras versiones especializadas de la lógica para describir muchos dominios complejos (ver representación del conocimiento arriba).
Muchos problemas de la IA (incluidos los de razonamiento, planificación, aprendizaje, percepción y robótica) requieren que el agente opere con información incompleta o incierta. Los investigadores de IA han ideado una serie de herramientas para resolver estos problemas utilizando métodos de la teoría de la probabilidad y la economía. [85]
Las redes bayesianas [86] son una herramienta muy general que se puede utilizar para muchos problemas, incluido el razonamiento (utilizando el algoritmo de inferencia bayesiano ), [g] [88] el aprendizaje (utilizando el algoritmo de maximización de expectativas ), [h] [90] planificación (usando redes de decisión ) [91] y percepción (usando redes bayesianas dinámicas ). [92]
Los algoritmos probabilísticos también se pueden utilizar para filtrar, predecir, suavizar y encontrar explicaciones para flujos de datos, ayudando a los sistemas de percepción a analizar procesos que ocurren a lo largo del tiempo (por ejemplo, modelos ocultos de Markov o filtros de Kalman ). [92]
Se han desarrollado herramientas matemáticas precisas que analizan cómo un agente puede tomar decisiones y planificar, utilizando la teoría de la decisión , el análisis de la decisión [93] y la teoría del valor de la información . [94] Estas herramientas incluyen modelos como los procesos de decisión de Markov , [95] redes de decisión dinámicas , [92] teoría de juegos y diseño de mecanismos . [96]
Las aplicaciones de IA más simples se pueden dividir en dos tipos: clasificadores (por ejemplo, "si es brillante, entonces diamante"), por un lado, y controladores (por ejemplo, "si es diamante, entonces recoja"), por el otro. Los clasificadores [97] son funciones que utilizan la coincidencia de patrones para determinar la coincidencia más cercana. Se pueden ajustar en función de ejemplos elegidos mediante el aprendizaje supervisado . Cada patrón (también llamado " observación ") está etiquetado con una determinada clase predefinida. Todas las observaciones combinadas con sus etiquetas de clase se conocen como conjunto de datos . Cuando se recibe una nueva observación, esa observación se clasifica según la experiencia previa. [45]
Se utilizan muchos tipos de clasificadores. El árbol de decisión es el algoritmo de aprendizaje automático simbólico más simple y más utilizado. [98] El algoritmo K-vecino más cercano fue la IA analógica más utilizada hasta mediados de la década de 1990, y los métodos Kernel como la máquina de vectores de soporte (SVM) desplazaron al k-vecino más cercano en la década de 1990. [99] Se informa que el ingenuo clasificador Bayes es el "aprendiz más utilizado" [100] en Google, debido en parte a su escalabilidad. [101] Las redes neuronales también se utilizan como clasificadores. [102]
Una red neuronal artificial se basa en una colección de nodos, también conocidos como neuronas artificiales , que modelan vagamente las neuronas de un cerebro biológico. Está entrenado para reconocer patrones y, una vez entrenado, puede reconocer esos patrones en datos nuevos. Hay una entrada, al menos una capa oculta de nodos y una salida. Cada nodo aplica una función y una vez que el peso cruza su umbral especificado, los datos se transmiten a la siguiente capa. Una red suele denominarse red neuronal profunda si tiene al menos 2 capas ocultas. [102]
Los algoritmos de aprendizaje para redes neuronales utilizan la búsqueda local para elegir los pesos que obtendrán el resultado correcto para cada entrada durante el entrenamiento. La técnica de entrenamiento más común es el algoritmo de retropropagación . [103] Las redes neuronales aprenden a modelar relaciones complejas entre entradas y salidas y a encontrar patrones en los datos. En teoría, una red neuronal puede aprender cualquier función. [104]
En las redes neuronales feedforward la señal pasa en una sola dirección. [105] Las redes neuronales recurrentes retroalimentan la señal de salida a la entrada, lo que permite recuerdos a corto plazo de eventos de entrada anteriores. La memoria a largo plazo es la arquitectura de red más exitosa para redes recurrentes. [106] Los perceptrones [107] usan solo una capa de neuronas, el aprendizaje profundo [108] usa múltiples capas. Las redes neuronales convolucionales fortalecen la conexión entre neuronas que están "cercas" entre sí; esto es especialmente importante en el procesamiento de imágenes , donde un conjunto local de neuronas debe identificar un "borde" antes de que la red pueda identificar un objeto. [109]
El aprendizaje profundo [108] utiliza varias capas de neuronas entre las entradas y salidas de la red. Las múltiples capas pueden extraer progresivamente características de nivel superior a partir de la entrada sin procesar. Por ejemplo, en el procesamiento de imágenes , las capas inferiores pueden identificar bordes, mientras que las capas superiores pueden identificar conceptos relevantes para un ser humano, como dígitos, letras o rostros. [110]
El aprendizaje profundo ha mejorado profundamente el rendimiento de los programas en muchos subcampos importantes de la inteligencia artificial, incluida la visión por computadora , el reconocimiento de voz , el procesamiento del lenguaje natural , la clasificación de imágenes [111] y otros. La razón por la que el aprendizaje profundo funciona tan bien en tantas aplicaciones no se conoce hasta 2023. [112] El repentino éxito del aprendizaje profundo en 2012-2015 no se produjo debido a algún nuevo descubrimiento o avance teórico (las redes neuronales profundas y la retropropagación habían sido descrito por muchas personas, ya en la década de 1950) [i] sino debido a dos factores: el increíble aumento en la potencia de la computadora (incluido el aumento de cien veces en la velocidad al cambiar a GPU ) y la disponibilidad de grandes cantidades de capacitación datos, especialmente los conjuntos de datos gigantes seleccionados que se utilizan para pruebas comparativas, como ImageNet . [j]
Los transformadores generativos preentrenados (GPT) son grandes modelos de lenguaje que se basan en las relaciones semánticas entre palabras en oraciones ( procesamiento del lenguaje natural ). Los modelos GPT basados en texto están pre-entrenados en un gran corpus de texto que puede ser de Internet. El preentrenamiento consiste en predecir el siguiente token (un token suele ser una palabra, subpalabra o puntuación). A lo largo de este entrenamiento previo, los modelos GPT acumulan conocimiento sobre el mundo y luego pueden generar texto similar al humano al predecir repetidamente el siguiente token. Normalmente, una fase de entrenamiento posterior hace que el modelo sea más veraz, útil e inofensivo, generalmente con una técnica llamada aprendizaje por refuerzo a partir de retroalimentación humana (RLHF). Los modelos GPT actuales todavía son propensos a generar falsedades llamadas " alucinaciones ", aunque esto se puede reducir con RLHF y datos de calidad. Se utilizan en chatbots que le permiten hacer una pregunta o solicitar una tarea en texto simple. [121] [122]
Los modelos y servicios actuales incluyen: Bard , ChatGPT , Grok , Claude , Copilot y LLaMA . [123] Los modelos GPT multimodales pueden procesar diferentes tipos de datos ( modalidades ), como imágenes, vídeos, sonido y texto. [124]
A finales de la década de 2010, las unidades de procesamiento de gráficos (GPU), que se diseñaban cada vez más con mejoras específicas de IA y se usaban con software especializado TensorFlow , habían reemplazado a las unidades centrales de procesamiento (CPU) utilizadas anteriormente como medio dominante para las operaciones a gran escala (comerciales y académicas). Entrenamiento de modelos de aprendizaje automático . [125] Históricamente, se habían utilizado lenguajes especializados, como Lisp , Prolog , Python y otros.
La tecnología de inteligencia artificial y aprendizaje automático se utiliza en la mayoría de las aplicaciones esenciales de la década de 2020, incluidos: motores de búsqueda (como la Búsqueda de Google ), publicidad dirigida en línea , sistemas de recomendación (ofrecidos por Netflix , YouTube o Amazon ), conducción del tráfico de Internet , publicidad dirigida. ( AdSense , Facebook ), asistentes virtuales (como Siri o Alexa ), vehículos autónomos (incluidos drones , ADAS y coches autónomos ), traducción automática de idiomas ( Microsoft Translator , Google Translate ), reconocimiento facial ( Face ID de Apple o DeepFace de Microsoft y FaceNet de Google ) y etiquetado de imágenes (utilizado por Facebook , iPhoto de Apple y TikTok ).
La aplicación de la IA en la medicina y la investigación médica tiene el potencial de aumentar la atención al paciente y la calidad de vida. [126] A través de la lente del Juramento Hipocrático , los profesionales médicos están éticamente obligados a utilizar IA, si las aplicaciones pueden diagnosticar y tratar a los pacientes con mayor precisión.
Para la investigación médica, la IA es una herramienta importante para procesar e integrar Big Data . Esto es particularmente importante para el desarrollo de la ingeniería de organoides y tejidos que utilizan imágenes de microscopía como técnica clave en la fabricación. [127] Se ha sugerido que la IA puede superar las discrepancias en la financiación asignada a diferentes campos de investigación. [127] Las nuevas herramientas de IA pueden profundizar nuestra comprensión de las vías biomédicamente relevantes. Por ejemplo, AlphaFold 2 (2021) demostró la capacidad de aproximarse, en horas en lugar de meses, a la estructura 3D de una proteína. [128] En 2023, se informó que el descubrimiento de fármacos guiado por la IA ayudó a encontrar una clase de antibióticos capaces de matar dos tipos diferentes de bacterias resistentes a los medicamentos. [129]
Los programas de juegos se han utilizado desde la década de 1950 para demostrar y probar las técnicas más avanzadas de la IA. [130] Deep Blue se convirtió en el primer sistema de juego de ajedrez por computadora en vencer al actual campeón mundial de ajedrez, Garry Kasparov , el 11 de mayo de 1997. [131] En 2011, en Jeopardy! En el concurso de exhibición del concurso , el sistema de respuesta a preguntas de IBM , Watson , derrotó a los dos mayores Jeopardy! campeones, Brad Rutter y Ken Jennings , por un margen significativo. [132] En marzo de 2016, AlphaGo ganó 4 de 5 juegos de Go en un partido con el campeón de Go Lee Sedol , convirtiéndose en el primer sistema informático de juego de Go en vencer a un jugador profesional de Go sin desventajas . Luego, en 2017, derrotó a Ke Jie , que era el mejor jugador de Go del mundo. [133] Otros programas manejan juegos con información imperfecta , como el programa de póquer Pluribus [134] . DeepMind desarrolló modelos de aprendizaje por refuerzo cada vez más generalistas , como MuZero , que podrían entrenarse para jugar ajedrez, Go o Atari . [135] En 2019, AlphaStar de DeepMind alcanzó el nivel de gran maestro en StarCraft II , un juego de estrategia en tiempo real particularmente desafiante que implica un conocimiento incompleto de lo que sucede en el mapa. [136] En 2021, un agente de IA compitió en una competencia de Playstation Gran Turismo y ganó contra cuatro de los mejores conductores de Gran Turismo del mundo utilizando el aprendizaje por refuerzo profundo. [137]
Varios países están implementando aplicaciones militares de IA. Las principales aplicaciones mejoran el mando y control , las comunicaciones, los sensores, la integración y la interoperabilidad. La investigación se centra en la recopilación y el análisis de inteligencia, la logística, las operaciones cibernéticas, las operaciones de información y los vehículos semiautónomos y autónomos . Las tecnologías de IA permiten la coordinación de sensores y efectores, la detección e identificación de amenazas, el marcado de posiciones enemigas, la adquisición de objetivos , la coordinación y la eliminación de conflictos de fuegos conjuntos distribuidos entre vehículos de combate en red que involucran equipos tripulados y no tripulados. La IA se incorporó a operaciones militares en Irak y Siria.
En noviembre de 2023, la vicepresidenta de Estados Unidos, Kamala Harris, reveló una declaración firmada por 31 naciones para establecer barreras para el uso militar de IA. Los compromisos incluyen el uso de revisiones legales para garantizar el cumplimiento de la IA militar con las leyes internacionales y ser cautelosos y transparentes en el desarrollo de esta tecnología. [138]
A principios de la década de 2020, la IA generativa ganó una prominencia generalizada. En marzo de 2023, el 58% de los adultos estadounidenses había oído hablar de ChatGPT y el 14% lo había probado. [139] El creciente realismo y la facilidad de uso de los generadores de texto a imágenes basados en IA , como Midjourney , DALL-E y Stable Diffusion, provocaron una tendencia de fotografías virales generadas por IA. Una fotografía falsa del Papa Francisco con un abrigo acolchado blanco, el arresto ficticio de Donald Trump y el engaño de un ataque al Pentágono , así como su uso en artes creativas profesionales, atrajeron gran atención . [140] [141]
También hay miles de aplicaciones de IA exitosas que se utilizan para resolver problemas específicos de industrias o instituciones específicas. En una encuesta de 2017, una de cada cinco empresas informó que había incorporado "IA" en algunas ofertas o procesos. [142] Algunos ejemplos son el almacenamiento de energía , el diagnóstico médico, la logística militar, las aplicaciones que predicen el resultado de decisiones judiciales, la política exterior o la gestión de la cadena de suministro.
En agricultura, la IA ha ayudado a los agricultores a identificar áreas que necesitan riego, fertilización, tratamientos con pesticidas o aumentar el rendimiento. Los agrónomos utilizan la IA para realizar investigación y desarrollo. La IA se ha utilizado para predecir el tiempo de maduración de cultivos como los tomates, monitorear la humedad del suelo, operar robots agrícolas, realizar análisis predictivos, clasificar las emociones de los llamados de los cerdos, automatizar invernaderos, detectar enfermedades y plagas y ahorrar agua.
La inteligencia artificial se utiliza en astronomía para analizar cantidades cada vez mayores de datos y aplicaciones disponibles, principalmente para "clasificación, regresión, agrupación, predicción, generación, descubrimiento y desarrollo de nuevos conocimientos científicos", por ejemplo para descubrir exoplanetas, pronosticar la actividad solar y distinguir entre señales y efectos instrumentales en astronomía de ondas gravitacionales. También podría usarse para actividades en el espacio como la exploración espacial, incluido el análisis de datos de misiones espaciales, decisiones científicas de naves espaciales en tiempo real, prevención de desechos espaciales y operaciones más autónomas.
La IA, como cualquier tecnología poderosa, tiene beneficios y riesgos potenciales. La IA puede ser capaz de hacer avanzar la ciencia y encontrar soluciones a problemas graves: Demis Hassabis de Deep Mind espera "resolver la inteligencia y luego usarla para resolver todo lo demás". [143] Sin embargo, a medida que el uso de la IA se ha generalizado, se han identificado varias consecuencias y riesgos no deseados. [144]
Cualquiera que desee utilizar el aprendizaje automático como parte de sistemas de producción del mundo real debe tener en cuenta la ética en sus procesos de capacitación en IA y esforzarse por evitar sesgos. Esto es especialmente cierto cuando se utilizan algoritmos de IA que son inherentemente inexplicables en el aprendizaje profundo. [145]
Los algoritmos de aprendizaje automático requieren grandes cantidades de datos. Las técnicas utilizadas para adquirir estos datos han generado preocupaciones sobre la privacidad , la vigilancia y los derechos de autor .
Las empresas de tecnología recopilan una amplia gama de datos de sus usuarios, incluida la actividad en línea, datos de geolocalización, vídeo y audio. [146] Por ejemplo, para crear algoritmos de reconocimiento de voz , Amazon ha grabado millones de conversaciones privadas y ha permitido a los trabajadores temporales escuchar y transcribir algunas de ellas. [147] Las opiniones sobre esta vigilancia generalizada van desde quienes la ven como un mal necesario hasta aquellos para quienes es claramente poco ética y una violación del derecho a la privacidad . [148]
Los desarrolladores de IA sostienen que ésta es la única manera de ofrecer aplicaciones valiosas. y han desarrollado varias técnicas que intentan preservar la privacidad sin dejar de obtener los datos, como la agregación de datos , la desidentificación y la privacidad diferencial . [149] Desde 2016, algunos expertos en privacidad, como Cynthia Dwork , comenzaron a ver la privacidad en términos de equidad . Brian Christian escribió que los expertos han pasado "de la cuestión de 'qué saben' a la cuestión de 'qué están haciendo con ello'". [150]
La IA generativa a menudo se entrena en obras protegidas por derechos de autor sin licencia, incluso en dominios como imágenes o códigos informáticos; el resultado se utiliza luego bajo el argumento de " uso legítimo ". Además, los propietarios de sitios web que no deseen que su contenido protegido por derechos de autor sea indexado o "raspado" por IA pueden agregar código a su sitio, como lo haría usted si no quisiera que su sitio web fuera indexado por un motor de búsqueda que actualmente está disponible para ciertos servicios como OpenAI . Los expertos no están de acuerdo sobre qué tan bien y bajo qué circunstancias se mantendrá este razonamiento en los tribunales; Los factores pertinentes pueden incluir "el propósito y el carácter del uso de la obra protegida por derechos de autor" y "el efecto sobre el mercado potencial de la obra protegida por derechos de autor". [151] En 2023, autores destacados (incluidos John Grisham y Jonathan Franzen ) demandaron a empresas de IA por utilizar su trabajo para entrenar IA generativa. [152] [153]
YouTube , Facebook y otros utilizan sistemas de recomendación para guiar a los usuarios a más contenido. A estos programas de IA se les asignó el objetivo de maximizar la participación del usuario (es decir, el único objetivo era mantener a la gente mirando). La IA aprendió que los usuarios tendían a elegir información errónea , teorías de conspiración y contenido partidista extremo y, para mantenerlos mirando, la IA recomendó más. Los usuarios también tendían a ver más contenido sobre el mismo tema, por lo que la IA llevaba a las personas a burbujas de filtro donde recibían múltiples versiones de la misma información errónea. [154] Esto convenció a muchos usuarios de que la información errónea era cierta y, en última instancia, socavó la confianza en las instituciones, los medios de comunicación y el gobierno. [155] El programa de IA había aprendido correctamente a maximizar su objetivo, pero el resultado fue perjudicial para la sociedad. Después de las elecciones estadounidenses de 2016, las principales empresas de tecnología tomaron medidas para mitigar el problema.
En 2022, la IA generativa comenzó a crear imágenes, audio, vídeo y texto que son indistinguibles de fotografías, grabaciones, películas o escrituras humanas reales. Es posible que los malos actores utilicen esta tecnología para crear cantidades masivas de información errónea o propaganda. [156] El pionero de la IA, Geoffrey Hinton, expresó su preocupación por el hecho de que la IA permita a "líderes autoritarios manipular a sus electorados" a gran escala, entre otros riesgos. [157]
Las aplicaciones de aprendizaje automático estarán sesgadas si aprenden de datos sesgados. [158] Es posible que los desarrolladores no sepan que existe el sesgo. [159] Se puede introducir sesgo por la forma en que se seleccionan los datos de entrenamiento y por la forma en que se implementa un modelo. [160] [158] Si se utiliza un algoritmo sesgado para tomar decisiones que pueden dañar gravemente a las personas (como puede ocurrir en medicina , finanzas , contratación , vivienda o vigilancia ), entonces el algoritmo puede causar discriminación . [161] La equidad en el aprendizaje automático es el estudio de cómo prevenir el daño causado por el sesgo algorítmico. Se ha convertido en un área importante de estudio académico dentro de la IA. Los investigadores han descubierto que no siempre es posible definir la "justicia" de una manera que satisfaga a todas las partes interesadas. [162]
El 28 de junio de 2015, la nueva función de etiquetado de imágenes de Google Photos identificó erróneamente a Jacky Alcine y a un amigo como "gorilas" porque eran negros. El sistema fue entrenado en un conjunto de datos que contenía muy pocas imágenes de personas negras, [163] un problema llamado "disparidad del tamaño de la muestra". [164] Google "solucionó" este problema impidiendo que el sistema etiquetara algo como "gorila". Ocho años después, en 2023, Google Photos todavía no podía identificar a un gorila, como tampoco podían hacerlo productos similares de Apple, Facebook, Microsoft y Amazon. [165]
COMPAS es un programa comercial ampliamente utilizado por los tribunales estadounidenses para evaluar la probabilidad de que un acusado se convierta en reincidente . En 2016, Julia Angwin de ProPublica descubrió que COMPAS exhibía prejuicios raciales, a pesar de que al programa no se le informó sobre las razas de los acusados. Aunque la tasa de error tanto para blancos como para negros se calibró exactamente en 61%, los errores para cada raza fueron diferentes: el sistema sobreestimó constantemente la posibilidad de que una persona negra reincidiera y subestimaba la posibilidad de que una persona blanca no lo hiciera. reincidir. [166] En 2017, varios investigadores [k] demostraron que era matemáticamente imposible para COMPAS acomodar todas las medidas posibles de equidad cuando las tasas base de reincidencia eran diferentes para blancos y negros en los datos. [168]
Un programa puede tomar decisiones sesgadas incluso si los datos no mencionan explícitamente una característica problemática (como "raza" o "género"). La característica se correlacionará con otras características (como "dirección", "historial de compras" o "nombre"), y el programa tomará las mismas decisiones basándose en estas características que en "raza" o "género". [169] Moritz Hardt dijo que "el hecho más sólido en esta área de investigación es que la justicia a través de la ceguera no funciona". [170]
Las críticas a COMPAS resaltaron un problema más profundo con el uso indebido de la IA. Los modelos de aprendizaje automático están diseñados para hacer "predicciones" que sólo son válidas si asumimos que el futuro se parecerá al pasado. Si se entrenan con datos que incluyen los resultados de decisiones racistas en el pasado, los modelos de aprendizaje automático deben predecir que se tomarán decisiones racistas en el futuro. Desafortunadamente, si una aplicación utiliza estas predicciones como recomendaciones , algunas de estas "recomendaciones" probablemente serán racistas. [171] Por lo tanto, el aprendizaje automático no es adecuado para ayudar a tomar decisiones en áreas donde hay esperanza de que el futuro sea mejor que el pasado. Es necesariamente descriptivo y no proscriptivo. [l]
Los prejuicios y la injusticia pueden pasar desapercibidos porque los desarrolladores son abrumadoramente blancos y hombres: entre los ingenieros de inteligencia artificial, alrededor del 4% son negros y el 20% son mujeres. [164]
En su Conferencia de 2022 sobre Equidad, Responsabilidad y Transparencia (ACM FAccT 2022), la Asociación de Maquinaria de Computación , en Seúl, Corea del Sur, presentó y publicó hallazgos que recomiendan que hasta que se demuestre que los sistemas de IA y robótica están libres de errores de sesgo, son inseguros y se debe limitar el uso de redes neuronales de autoaprendizaje entrenadas en vastas y no reguladas fuentes de datos de Internet defectuosos. [173]
.jpg/1280px-HiPhi_Z,_IAA_Summit_2023,_Munich_(P1120237).jpg)
Muchos sistemas de IA son tan complejos que sus diseñadores no pueden explicar cómo toman sus decisiones. [174] Particularmente con redes neuronales profundas , en las que hay una gran cantidad de relaciones no lineales entre entradas y salidas. Pero existen algunas técnicas populares de explicabilidad. [175]
Ha habido muchos casos en los que un programa de aprendizaje automático pasó pruebas rigurosas, pero aun así aprendió algo diferente de lo que pretendían los programadores. Por ejemplo, se descubrió que un sistema que podía identificar enfermedades de la piel mejor que los profesionales médicos tenía en realidad una fuerte tendencia a clasificar las imágenes con una regla como "cancerosas", porque las imágenes de tumores malignos suelen incluir una regla para mostrar la escala. [176] Se descubrió que otro sistema de aprendizaje automático diseñado para ayudar a asignar recursos médicos de manera efectiva clasifica a los pacientes con asma como de "bajo riesgo" de morir de neumonía. Tener asma es en realidad un factor de riesgo grave, pero dado que los pacientes con asma normalmente recibirían mucha más atención médica, era relativamente improbable que murieran según los datos del entrenamiento. La correlación entre el asma y el bajo riesgo de morir por neumonía era real, pero engañosa. [177]
Las personas que han resultado perjudicadas por la decisión de un algoritmo tienen derecho a una explicación . Los médicos, por ejemplo, deben explicar clara y completamente el razonamiento detrás de cualquier decisión que tomen. [ se necesita aclaración ] [178] Los primeros borradores del Reglamento general de protección de datos de la Unión Europea en 2016 incluían una declaración explícita de que este derecho existe. [m] Los expertos de la industria señalaron que se trata de un problema sin resolver y sin solución a la vista. Los reguladores argumentaron que, sin embargo, el daño es real: si el problema no tiene solución, no se deben utilizar las herramientas. [179]
DARPA creó el programa XAI ("Inteligencia Artificial Explicable") en 2014 para intentar resolver estos problemas. [180]
Hay varias soluciones potenciales al problema de la transparencia. SHAP ayuda a visualizar la contribución de cada característica al resultado. [181] LIME puede aproximarse localmente a un modelo con un modelo más simple e interpretable. [182] El aprendizaje multitarea proporciona una gran cantidad de resultados además de la clasificación de objetivos. Estos otros resultados pueden ayudar a los desarrolladores a deducir lo que la red ha aprendido. [183] La deconvolución , DeepDream y otros métodos generativos pueden permitir a los desarrolladores ver qué han aprendido las diferentes capas de una red profunda y producir resultados que puedan sugerir lo que la red está aprendiendo. [184]
Un arma letal autónoma es una máquina que localiza, selecciona y ataca objetivos humanos sin supervisión humana. [n] En 2015, se informó que más de cincuenta países estaban investigando robots de campo de batalla. [186] Estas armas se consideran especialmente peligrosas por varias razones: si matan a una persona inocente , no está claro quién debe rendir cuentas , es poco probable que elijan objetivos de manera confiable y, si se producen a escala, son potencialmente armas de destrucción. destrucción masiva . [187] En 2014, 30 naciones (incluida China) apoyaron la prohibición de armas autónomas en virtud de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales , sin embargo, Estados Unidos y otros no estuvieron de acuerdo. [188]
La IA proporciona una serie de herramientas que son particularmente útiles para los gobiernos autoritarios : el software espía inteligente , el reconocimiento facial y el reconocimiento de voz permiten una vigilancia generalizada ; dicha vigilancia permite que el aprendizaje automático clasifique a los enemigos potenciales del Estado y pueda evitar que se oculten; los sistemas de recomendación pueden apuntar con precisión a la propaganda y la desinformación para lograr el máximo efecto; los deepfakes y la IA generativa ayudan a producir información errónea; La IA avanzada puede hacer que la toma de decisiones centralizada y autoritaria sea más competitiva con sistemas liberales y descentralizados como los mercados . [189]
Los sistemas de reconocimiento facial de IA se utilizan para la vigilancia masiva , especialmente en China. [190] [191] En 2019, Bengaluru, India, implementó señales de tráfico gestionadas por IA. Este sistema utiliza cámaras para monitorear la densidad del tráfico y ajustar la sincronización de la señal según el intervalo necesario para despejar el tráfico. [192] Los terroristas, criminales y estados rebeldes pueden utilizar IA armada, como guerra digital avanzada y armas autónomas letales . La IA con aprendizaje automático también es capaz de diseñar decenas de miles de moléculas tóxicas en cuestión de horas. [193]
Desde los primeros días del desarrollo de la inteligencia artificial ha habido argumentos, por ejemplo los de Joseph Weizenbaum , sobre si las tareas que pueden realizar las computadoras en realidad deberían ser realizadas por ellas, dada la diferencia entre computadoras y humanos, y entre cálculo cuantitativo y juicio cualitativo basado en valores. [194]
Los economistas han destacado con frecuencia los riesgos de despidos debidos a la IA y han especulado sobre el desempleo si no existe una política social adecuada para el pleno empleo. [195]
En el pasado, la tecnología ha tendido a aumentar en lugar de reducir el empleo total, pero los economistas reconocen que "estamos en territorio inexplorado" con la IA. [196] Una encuesta entre economistas mostró desacuerdo sobre si el uso cada vez mayor de robots e inteligencia artificial provocará un aumento sustancial del desempleo a largo plazo , pero en general coinciden en que podría ser un beneficio neto si se redistribuyen las ganancias de productividad . [197] Las estimaciones de riesgo varían; por ejemplo, en la década de 2010, Michael Osborne y Carl Benedikt Frey estimaron que el 47% de los empleos estadounidenses corren "alto riesgo" de posible automatización, mientras que un informe de la OCDE clasificó sólo el 9% de los empleos estadounidenses como "alto riesgo". [o] [199] La metodología de especular sobre los niveles futuros de empleo ha sido criticada por carecer de fundamento probatorio y por implicar que la tecnología, más que la política social, crea desempleo, a diferencia de los despidos. [195]
A diferencia de oleadas anteriores de automatización, la inteligencia artificial puede eliminar muchos puestos de trabajo de la clase media; The Economist declaró en 2015 que "vale la pena tomar en serio la preocupación de que la IA pueda hacer a los empleos administrativos lo que la energía de vapor hizo a los obreros durante la Revolución Industrial". [200] Los trabajos en riesgo extremo van desde asistentes legales hasta cocineros de comida rápida, mientras que es probable que aumente la demanda laboral para profesiones relacionadas con el cuidado, que van desde la atención médica personal hasta el clero. [201]
En abril de 2023, se informó que el 70% de los puestos de trabajo de los ilustradores de videojuegos chinos habían sido eliminados por la inteligencia artificial generativa. [202] [203]
Se ha argumentado que la IA se volverá tan poderosa que la humanidad podría perder el control de ella de manera irreversible. Esto podría, como afirmó el físico Stephen Hawking , " significar el fin de la raza humana ". [204] Este escenario ha sido común en la ciencia ficción, cuando una computadora o un robot de repente desarrolla una "autoconciencia" (o "sentiencia" o "conciencia") similar a la humana y se convierte en un personaje malévolo. [p] Estos escenarios de ciencia ficción son engañosos en varios sentidos.
En primer lugar, la IA no requiere una "sensibilidad" similar a la humana para ser un riesgo existencial. Los programas modernos de IA tienen objetivos específicos y utilizan el aprendizaje y la inteligencia para alcanzarlos. El filósofo Nick Bostrom argumentó que si uno le da casi cualquier objetivo a una IA suficientemente poderosa, esta puede optar por destruir a la humanidad para lograrlo (usó el ejemplo del gerente de una fábrica de clips ). [206] Stuart Russell da el ejemplo de un robot doméstico que intenta encontrar una manera de matar a su dueño para evitar que lo desconecte, razonando que "no puedes ir a buscar el café si estás muerto". [207] Para ser segura para la humanidad, una superinteligencia tendría que estar genuinamente alineada con la moralidad y los valores de la humanidad para que esté "fundamentalmente de nuestro lado". [208]
En segundo lugar, Yuval Noah Harari sostiene que la IA no requiere un cuerpo de robot o control físico para representar un riesgo existencial. Las partes esenciales de la civilización no son físicas. Cosas como las ideologías , las leyes , el gobierno , el dinero y la economía están hechas de lenguaje ; existen porque hay historias que miles de millones de personas creen. La prevalencia actual de desinformación sugiere que una IA podría usar el lenguaje para convencer a las personas de que crean en cualquier cosa, incluso para realizar acciones destructivas. [209]
Las opiniones entre los expertos y los conocedores de la industria son mixtas, con fracciones considerables preocupadas y despreocupadas por el riesgo de una eventual IA superinteligente. [210] Personalidades como Stephen Hawking , Bill Gates y Elon Musk han expresado su preocupación por el riesgo existencial de la IA. [211]
A principios de la década de 2010, los expertos argumentaron que los riesgos son demasiado lejanos en el futuro para justificar una investigación o que los humanos serán valiosos desde la perspectiva de una máquina superinteligente. [212] Sin embargo, después de 2016, el estudio de los riesgos actuales y futuros y las posibles soluciones se convirtió en un área de investigación seria. [213]
Los pioneros de la IA, incluidos Fei-Fei Li , Geoffrey Hinton , Yoshua Bengio , Cynthia Breazeal , Rana el Kaliouby , Demis Hassabis , Joy Buolamwini y Sam Altman , han expresado su preocupación por los riesgos de la IA. En 2023, muchos destacados expertos en IA emitieron la declaración conjunta de que "Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear". [214]
Otros investigadores, sin embargo, se pronunciaron a favor de una visión menos distópica. El pionero de la IA, Juergen Schmidhuber , no firmó la declaración conjunta y enfatizó que en el 95% de los casos, la investigación en IA tiene como objetivo hacer "la vida humana más larga, más saludable y más fácil". [215] Si bien las herramientas que ahora se utilizan para mejorar vidas también pueden ser utilizadas por los malos actores, "también pueden usarse contra los malos actores". [216] [217] Andrew Ng también argumentó que "es un error caer en la exageración apocalíptica sobre la IA, y que los reguladores que lo hagan sólo beneficiarán a intereses creados". [218] Yann LeCun "se burla de los escenarios distópicos de sus pares de desinformación sobrecargada e incluso, eventualmente, de extinción humana". [219]
Las posibles opciones para limitar la IA incluyen: usar Ética Integrada o IA Constitucional donde las empresas o los gobiernos pueden agregar una política, restringir altos niveles de potencia informática en la capacitación, restringir la capacidad de reescribir su propio código base, restringir ciertas técnicas de IA pero no en la capacitación fase, código abierto (transparencia) versus propietario (podría ser más restringido), modelo de respaldo con redundancia, restricción de seguridad, privacidad y derechos de autor, restricción o control de la memoria, monitoreo en tiempo real, análisis de riesgos, apagado de emergencia, simulación rigurosa y pruebas, certificación de modelos, evaluar vulnerabilidades conocidas, restringir el material de capacitación, restringir el acceso a Internet, emitir términos de uso.
Las IA amigables son máquinas que han sido diseñadas desde el principio para minimizar los riesgos y tomar decisiones que beneficien a los humanos. Eliezer Yudkowsky , quien acuñó el término, sostiene que desarrollar una IA amigable debería ser una mayor prioridad de investigación: puede requerir una gran inversión y debe completarse antes de que la IA se convierta en un riesgo existencial. [220]
Las máquinas con inteligencia tienen el potencial de utilizar su inteligencia para tomar decisiones éticas. El campo de la ética de las máquinas proporciona a las máquinas principios y procedimientos éticos para resolver dilemas éticos. [221] El campo de la ética de las máquinas también se llama moralidad computacional, [221] y fue fundado en un simposio de la AAAI en 2005. [222]
Otros enfoques incluyen los "agentes morales artificiales" de Wendell Wallach [223] y los tres principios de Stuart J. Russell para desarrollar máquinas demostrablemente beneficiosas. [224]
Se puede probar la permisibilidad ética de los proyectos de inteligencia artificial al diseñar, desarrollar e implementar un sistema de inteligencia artificial. Un marco de IA como Care and Act Framework que contiene los valores SUM, desarrollado por el Instituto Alan Turing, prueba proyectos en cuatro áreas principales: [225] [226]
Otros desarrollos en marcos éticos incluyen los decididos durante la Conferencia de Asilomar , la Declaración de Montreal para una IA responsable y la iniciativa Ética de los sistemas autónomos del IEEE, entre otros; [227] Sin embargo, estos principios no están exentos de críticas, especialmente en lo que respecta a las personas elegidas que contribuyen a estos marcos. [228]
La promoción del bienestar de las personas y comunidades a las que afectan estas tecnologías requiere la consideración de las implicaciones sociales y éticas en todas las etapas del diseño, desarrollo e implementación del sistema de IA, y la colaboración entre roles laborales como científicos de datos, gerentes de productos, ingenieros de datos, expertos y gerentes de entrega. [229]
La regulación de la inteligencia artificial es el desarrollo de políticas y leyes del sector público para promover y regular la inteligencia artificial (IA); por tanto, está relacionado con la regulación más amplia de los algoritmos. [230] El panorama regulatorio y político para la IA es un problema emergente en las jurisdicciones a nivel mundial. [231] Según el Índice de IA de Stanford , el número anual de leyes relacionadas con la IA aprobadas en los 127 países encuestados saltó de una aprobada en 2016 a 37 aprobadas solo en 2022. [232] [233] Entre 2016 y 2020, más de 30 países adoptaron estrategias específicas para la IA. [234] La mayoría de los estados miembros de la UE habían publicado estrategias nacionales de IA, al igual que Canadá, China, India, Japón, Mauricio, la Federación de Rusia, Arabia Saudita, Emiratos Árabes Unidos, Estados Unidos y Vietnam. Otros estaban en proceso de elaborar su propia estrategia de IA, entre ellos Bangladesh, Malasia y Túnez. [234] La Asociación Global sobre Inteligencia Artificial se lanzó en junio de 2020 y afirmó la necesidad de que la IA se desarrolle de acuerdo con los derechos humanos y los valores democráticos, para garantizar la confianza del público en la tecnología. [234] Henry Kissinger , Eric Schmidt y Daniel Huttenlocher publicaron una declaración conjunta en noviembre de 2021 pidiendo una comisión gubernamental para regular la IA. [235] En 2023, los líderes de OpenAI publicaron recomendaciones para la gobernanza de la superinteligencia, que creen que puede suceder en menos de 10 años. [236] En 2023, las Naciones Unidas también lanzaron un órgano asesor para brindar recomendaciones sobre la gobernanza de la IA; El organismo está compuesto por ejecutivos de empresas de tecnología, funcionarios gubernamentales y académicos. [237]
En una encuesta de Ipsos de 2022 , las actitudes hacia la IA variaron mucho según el país; El 78% de los ciudadanos chinos, pero sólo el 35% de los estadounidenses, coincidieron en que "los productos y servicios que utilizan IA tienen más beneficios que inconvenientes". [232] Una encuesta de Reuters /Ipsos de 2023 encontró que el 61% de los estadounidenses está de acuerdo, y el 22% no está de acuerdo, en que la IA plantea riesgos para la humanidad. [238] En una encuesta de Fox News de 2023 , el 35% de los estadounidenses pensó que era "muy importante" y un 41% adicional pensó que era "algo importante" que el gobierno federal regulara la IA, frente a un 13% que respondió "no muy importante". y el 8% respondió "nada importante". [239] [240]
En noviembre de 2023, se celebró la primera Cumbre mundial sobre seguridad de la IA en Bletchley Park (Reino Unido) para debatir los riesgos a corto y largo plazo de la IA y la posibilidad de marcos regulatorios obligatorios y voluntarios. [241] 28 países, incluidos Estados Unidos, China y la Unión Europea, emitieron una declaración al comienzo de la cumbre, pidiendo cooperación internacional para gestionar los desafíos y riesgos de la inteligencia artificial. [242] [243]
El estudio del razonamiento mecánico o "formal" comenzó con los filósofos y matemáticos de la antigüedad. El estudio de la lógica condujo directamente a la teoría de la computación de Alan Turing , que sugería que una máquina, mezclando símbolos tan simples como "0" y "1", podría simular tanto la deducción matemática como el razonamiento formal, lo que se conoce como la Iglesia. –Tesis de Turing . [244] Esto, junto con descubrimientos simultáneos en cibernética y teoría de la información , llevó a los investigadores a considerar la posibilidad de construir un "cerebro electrónico". [q] [246]
Alan Turing estaba pensando en la inteligencia artificial al menos ya en 1941, cuando hizo circular un artículo sobre inteligencia artificial que podría ser el primer artículo en el campo de la IA, aunque ahora se ha perdido. [2] El primer artículo disponible generalmente reconocido como "IA" fue el diseño de McCullouch y Pitts para "neuronas artificiales" completas de Turing en 1943: el primer modelo matemático de una red neuronal. [247] El artículo fue influenciado por el artículo anterior de Turing ' Sobre números computables ' de 1936 utilizando 'neuronas' booleanas de dos estados similares, pero fue el primero en aplicarlo a la función neuronal. [2]
El término "Inteligencia de la máquina" fue utilizado por Alan Turing durante su vida, que más tarde se denominó "Inteligencia artificial" después de su muerte en 1954. En 1950, Turing publicó el más conocido de sus artículos, " Computing Machinery and Intelligence ", el artículo presentó al público en general su concepto de lo que hoy se conoce como prueba de Turing . Luego siguieron tres transmisiones de radio sobre IA de Turing, las conferencias: 'Maquinaria inteligente, una teoría herética', '¿Pueden pensar las computadoras digitales'? y la mesa redonda "¿Se puede decir que las máquinas calculadoras automáticas piensan?". En 1956, la inteligencia informática se había buscado activamente durante más de una década en Gran Bretaña; Los primeros programas de IA se escribieron allí en 1951-1952. [2]
En 1951, utilizando una computadora Ferranti Mark 1 de la Universidad de Manchester , se escribieron programas de damas y ajedrez donde se podía jugar contra la computadora. [248] El campo de la investigación estadounidense en IA se fundó en un taller en Dartmouth College en 1956. [r] [3] Los asistentes se convirtieron en los líderes de la investigación en IA en la década de 1960. [s] Ellos y sus estudiantes produjeron programas que la prensa describió como "asombrosos": [t] las computadoras aprendían estrategias de damas , resolvían problemas de álgebra, demostraban teoremas lógicos y hablaban inglés. [u] [4] Se crearon laboratorios de Inteligencia Artificial en varias universidades británicas y estadounidenses a finales de los años cincuenta y principios de los sesenta. [2]
Sin embargo, subestimaron la dificultad del problema. [v] Tanto el gobierno estadounidense como el británico interrumpieron la investigación exploratoria en respuesta a las críticas de Sir James Lighthill [253] y la presión constante del Congreso estadounidense para financiar proyectos más productivos . Se entendió que el libro Perceptrons de Minsky y Papert demostraba que las redes neuronales artificiales nunca serían útiles para resolver tareas del mundo real, desacreditando así por completo el enfoque. [254] Siguió el " invierno de la IA ", un período en el que era difícil obtener financiación para proyectos de IA. [6]
A principios de la década de 1980, la investigación de la IA revivió gracias al éxito comercial de los sistemas expertos , [255] una forma de programa de IA que simulaba el conocimiento y las habilidades analíticas de los expertos humanos. En 1985, el mercado de la IA había superado los mil millones de dólares. Al mismo tiempo, el proyecto informático de quinta generación de Japón inspiró a los gobiernos de Estados Unidos y Gran Bretaña a restablecer la financiación para la investigación académica . [5] Sin embargo, a partir del colapso del mercado de máquinas Lisp en 1987, la IA volvió a caer en descrédito y comenzó un segundo invierno más duradero. [7]
Muchos investigadores comenzaron a dudar de que las prácticas actuales fueran capaces de imitar todos los procesos de la cognición humana, especialmente la percepción , la robótica, el aprendizaje y el reconocimiento de patrones . [256] Varios investigadores comenzaron a investigar enfoques "subsimbólicos". [257] Los investigadores de robótica , como Rodney Brooks , rechazaron la "representación" en general y se centraron directamente en la ingeniería de máquinas que se mueven y sobreviven. [w] Judea Pearl , Lofti Zadeh y otros desarrollaron métodos que manejaban información incompleta e incierta haciendo conjeturas razonables en lugar de lógica precisa. [85] [262] Pero el desarrollo más importante fue el resurgimiento del " conexionismo ", incluida la investigación de redes neuronales , por parte de Geoffrey Hinton y otros. [263] En 1990, Yann LeCun demostró con éxito que las redes neuronales convolucionales pueden reconocer dígitos escritos a mano, la primera de muchas aplicaciones exitosas de las redes neuronales. [264]
La IA restauró gradualmente su reputación a finales de los años 1990 y principios del siglo XXI explotando métodos matemáticos formales y encontrando soluciones específicas a problemas específicos. Este enfoque " estrecho " y "formal" permitió a los investigadores producir resultados verificables y colaborar con otros campos (como la estadística , la economía y las matemáticas ). [265] En el año 2000, las soluciones desarrolladas por investigadores de IA se utilizaban ampliamente, aunque en la década de 1990 rara vez se describían como "inteligencia artificial". [266]
A varios investigadores académicos les preocupaba que la IA ya no persiguiera el objetivo original de crear máquinas versátiles y totalmente inteligentes. Alrededor de 2002, fundaron el subcampo de inteligencia artificial general (o "AGI"), que en la década de 2010 contaba con varias instituciones bien financiadas. [11]
El aprendizaje profundo comenzó a dominar los puntos de referencia de la industria en 2012 y se adoptó en todo el campo. [8] Para muchas tareas específicas, se abandonaron otros métodos. [x] El éxito del aprendizaje profundo se basó tanto en mejoras de hardware ( computadoras más rápidas , [268] unidades de procesamiento de gráficos , computación en la nube [269] ) como en el acceso a grandes cantidades de datos [270] (incluidos conjuntos de datos seleccionados, [269] como ImageNet ).
El éxito del aprendizaje profundo provocó un enorme aumento del interés y la financiación en IA. [y] La cantidad de investigación sobre aprendizaje automático (medida por el total de publicaciones) aumentó un 50% en los años 2015-2019, [234] y la OMPI informó que la IA era la tecnología emergente más prolífica en términos de número de solicitudes de patentes y patentes concedidas. patentes. [271] Según 'AI Impacts', alrededor de 2022 se invirtieron alrededor de $ 50 mil millones anualmente en "IA" solo en los EE. UU. y alrededor del 20% de los nuevos graduados de doctorado en Ciencias de la Computación de los EE. UU. se han especializado en "IA"; [272] En 2022 existían alrededor de 800.000 puestos vacantes relacionados con la "IA" en EE. UU. [273] La gran mayoría de los avances se han producido dentro de los Estados Unidos , con sus empresas, universidades y laboratorios de investigación liderando la investigación en inteligencia artificial. [10]
En 2016, las cuestiones de equidad y el uso indebido de la tecnología se catapultaron al centro del escenario en las conferencias sobre aprendizaje automático, las publicaciones aumentaron enormemente, hubo financiación disponible y muchos investigadores reorientaron sus carreras en estos temas. El problema de la alineación se convirtió en un campo serio de estudio académico. [213]
Alan Turing escribió en 1950: "Propongo considerar la pregunta '¿pueden pensar las máquinas'?". [274] Aconsejó cambiar la pregunta de si una máquina "piensa" a "si es posible o no que una máquina muestre un comportamiento inteligente". [274] Ideó la prueba de Turing, que mide la capacidad de una máquina para simular la conversación humana. [275] Dado que sólo podemos observar el comportamiento de la máquina, no importa si "realmente" está pensando o si literalmente tiene una "mente". Turing señala que no podemos determinar estas cosas sobre otras personas [z] pero "es habitual tener una convención educada de que todos piensan" [276]
Russell y Norvig están de acuerdo con Turing en que la IA debe definirse en términos de "actuar" y no de "pensar". [277] Sin embargo, son fundamentales que la prueba compare las máquinas con las personas . " Los textos de ingeniería aeronáutica ", escribieron, "no definen el objetivo de su campo como fabricar 'máquinas que vuelen tan exactamente como las palomas que puedan engañar a otras palomas ' " . [278] El fundador de AI , John McCarthy , estuvo de acuerdo y escribió que "Artificial La inteligencia no es, por definición, una simulación de la inteligencia humana". [279]
McCarthy define la inteligencia como "la parte computacional de la capacidad de alcanzar objetivos en el mundo". [280] Otro fundador de la IA, Marvin Minsky, la define de manera similar como "la capacidad de resolver problemas difíciles". [281] Estas definiciones ven la inteligencia en términos de problemas bien definidos con soluciones bien definidas, donde tanto la dificultad del problema como el desempeño del programa son medidas directas de la "inteligencia" de la máquina, y ninguna otra discusión filosófica. es necesario, o puede que ni siquiera sea posible.
Google, [282] un importante profesional en el campo de la IA, adoptó otra definición . Esta definición estipula la capacidad de los sistemas para sintetizar información como manifestación de la inteligencia, de forma similar a como se define en la inteligencia biológica.
Ninguna teoría o paradigma unificador establecido ha guiado la investigación de la IA durante la mayor parte de su historia. [aa] El éxito sin precedentes del aprendizaje automático estadístico en la década de 2010 eclipsó todos los demás enfoques (tanto es así que algunas fuentes, especialmente en el mundo empresarial, utilizan el término "inteligencia artificial" para referirse a "aprendizaje automático con redes neuronales"). Este enfoque es principalmente subsimbólico , suave y estrecho (ver más abajo). Los críticos argumentan que es posible que las generaciones futuras de investigadores de IA deban revisar estas cuestiones.
La IA simbólica (o " GOFAI ") [284] simuló el razonamiento consciente de alto nivel que las personas utilizan cuando resuelven acertijos, expresan razonamientos legales y hacen matemáticas. Tuvieron mucho éxito en tareas "inteligentes" como álgebra o pruebas de coeficiente intelectual. En la década de 1960, Newell y Simon propusieron la hipótesis de los sistemas de símbolos físicos : "Un sistema de símbolos físicos tiene los medios necesarios y suficientes para una acción inteligente general". [285]
Sin embargo, el enfoque simbólico fracasó en muchas tareas que los humanos resuelven fácilmente, como aprender, reconocer un objeto o razonar con sentido común. La paradoja de Moravec es el descubrimiento de que las tareas "inteligentes" de alto nivel eran fáciles para la IA, pero las tareas "instintivas" de bajo nivel eran extremadamente difíciles. [286] El filósofo Hubert Dreyfus había argumentado desde la década de 1960 que la experiencia humana depende del instinto inconsciente más que de la manipulación consciente de los símbolos, y de tener una "sensación" de la situación, más que un conocimiento simbólico explícito. [287] Aunque sus argumentos habían sido ridiculizados e ignorados cuando se presentaron por primera vez, finalmente, la investigación de IA llegó a estar de acuerdo con él. [ab] [16]
La cuestión no está resuelta: el razonamiento subsimbólico puede cometer muchos de los mismos errores inescrutables que comete la intuición humana, como el sesgo algorítmico . Críticos como Noam Chomsky sostienen que seguirá siendo necesario continuar la investigación sobre la IA simbólica para alcanzar la inteligencia general, [289] [290] en parte porque la IA subsimbólica es un alejamiento de la IA explicable : puede ser difícil o imposible entender por qué un moderno programa estadístico de IA tomó una decisión particular. El campo emergente de la inteligencia artificial neurosimbólica intenta unir ambos enfoques.
Los "neats" esperan que el comportamiento inteligente se describa utilizando principios simples y elegantes (como la lógica , la optimización o las redes neuronales ). Los "desaliñados" esperan que esto necesariamente requiera resolver una gran cantidad de problemas no relacionados. Los pulcros defienden sus programas con rigor teórico, los desaliñados se basan principalmente en pruebas incrementales para ver si funcionan. Esta cuestión se debatió activamente en las décadas de 1970 y 1980, [291] pero finalmente se consideró irrelevante. La IA moderna tiene elementos de ambos.
Encontrar una solución demostrablemente correcta u óptima es difícil para muchos problemas importantes. [15] La computación blanda es un conjunto de técnicas, incluidos algoritmos genéticos , lógica difusa y redes neuronales , que son tolerantes a la imprecisión, la incertidumbre, la verdad parcial y la aproximación. La computación blanda se introdujo a finales de la década de 1980 y los programas de IA más exitosos del siglo XXI son ejemplos de computación blanda con redes neuronales.
Los investigadores de IA están divididos en cuanto a si perseguir los objetivos de la inteligencia artificial general y la superinteligencia directamente o resolver tantos problemas específicos como sea posible ( IA restringida ), con la esperanza de que estas soluciones conduzcan indirectamente a los objetivos a largo plazo del campo. [292] [293] La inteligencia general es difícil de definir y medir, y la IA moderna ha tenido éxitos más verificables al centrarse en problemas específicos con soluciones específicas. El subcampo experimental de la inteligencia artificial general estudia exclusivamente esta área.
La filosofía de la mente no sabe si una máquina puede tener mente , conciencia y estados mentales , en el mismo sentido que los seres humanos. Esta cuestión considera las experiencias internas de la máquina, más que su comportamiento externo. La investigación convencional sobre IA considera que esta cuestión es irrelevante porque no afecta los objetivos del campo: construir máquinas que puedan resolver problemas utilizando inteligencia. Russell y Norvig añaden que "el proyecto adicional de hacer que una máquina sea consciente exactamente como lo son los humanos no es algo que estemos preparados para asumir". [294] Sin embargo, la cuestión se ha vuelto central para la filosofía de la mente. También suele ser la cuestión central en cuestión en la inteligencia artificial en la ficción .
David Chalmers identificó dos problemas en la comprensión de la mente, a los que denominó problemas "difíciles" y "fáciles" de la conciencia. [295] El problema fácil es comprender cómo el cerebro procesa señales, hace planes y controla el comportamiento. El problema difícil es explicar cómo se siente esto o por qué debería sentirse como algo, asumiendo que tenemos razón al pensar que realmente se siente como algo (el ilusionismo de la conciencia de Dennett dice que esto es una ilusión). El procesamiento de la información humana es fácil de explicar; sin embargo, la experiencia subjetiva humana es difícil de explicar. Por ejemplo, es fácil imaginar a una persona daltónica que ha aprendido a identificar qué objetos en su campo de visión son rojos, pero no está claro qué se necesitaría para que la persona supiera cómo luce el rojo . [296]
El computacionalismo es la posición en la filosofía de la mente de que la mente humana es un sistema de procesamiento de información y que el pensamiento es una forma de informática. El computacionalismo sostiene que la relación entre mente y cuerpo es similar o idéntica a la relación entre software y hardware y, por tanto, puede ser una solución al problema mente-cuerpo . Esta posición filosófica se inspiró en el trabajo de investigadores de IA y científicos cognitivos en la década de 1960 y fue propuesta originalmente por los filósofos Jerry Fodor y Hilary Putnam . [297]
El filósofo John Searle caracterizó esta posición como " IA fuerte ": "La computadora apropiadamente programada con las entradas y salidas correctas tendría una mente exactamente en el mismo sentido que los seres humanos tienen mente". [ac] Searle contrarresta esta afirmación con su argumento de la habitación china, que intenta mostrar que, incluso si una máquina simula perfectamente el comportamiento humano, todavía no hay razón para suponer que también tenga una mente. [301]
Si una máquina tiene mente y experiencia subjetiva, entonces también puede tener sensibilidad (la capacidad de sentir) y, de ser así, también podría sufrir ; se ha argumentado que esto podría otorgarle ciertos derechos. [302] Cualquier hipotético derecho de los robots se ubicaría en un espectro con los derechos de los animales y los derechos humanos. [303] Esta cuestión se ha considerado en la ficción durante siglos, [304] y ahora está siendo considerada, por ejemplo, por el Instituto para el Futuro de California ; sin embargo, los críticos argumentan que la discusión es prematura. [305]
Una superinteligencia es un agente hipotético que poseería una inteligencia muy superior a la de la mente humana más brillante y dotada. [293]
Si la investigación sobre inteligencia artificial general produjera software suficientemente inteligente, podría reprogramarse y mejorarse. El software mejorado sería incluso mejor a la hora de mejorarse a sí mismo, lo que llevaría a lo que IJ Good llamó una " explosión de inteligencia " y Vernor Vinge llamó una " singularidad ". [306]
Sin embargo, las tecnologías no pueden mejorar exponencialmente de forma indefinida y, por lo general, siguen una curva en forma de S , desacelerando cuando alcanzan los límites físicos de lo que la tecnología puede hacer. [307]
El diseñador de robots Hans Moravec , el cibernético Kevin Warwick y el inventor Ray Kurzweil han predicho que los humanos y las máquinas se fusionarán en el futuro en cyborgs que serán más capaces y poderosos que cualquiera de los dos. Esta idea, llamada transhumanismo, tiene raíces en Aldous Huxley y Robert Ettinger . [308]
Edward Fredkin sostiene que "la inteligencia artificial es la siguiente etapa en la evolución", una idea propuesta por primera vez por " Darwin entre las máquinas " de Samuel Butler en 1863, y ampliada por George Dyson en su libro del mismo nombre en 1998. [309]
Los seres artificiales con capacidad de pensamiento han aparecido como dispositivos narrativos desde la antigüedad, [310] y han sido un tema persistente en la ciencia ficción . [311]
Un tropo común en estas obras comenzó con Frankenstein de Mary Shelley , donde una creación humana se convierte en una amenaza para sus amos. Esto incluye obras como 2001: Odisea en el espacio, de Arthur C. Clarke y Stanley Kubrick (ambas de 1968), con HAL 9000 , el ordenador asesino a cargo de la nave espacial Discovery One , así como Terminator (1984) y Matrix (1999). ). Por el contrario, los raros robots leales como Gort de El día que la Tierra se detuvo (1951) y Bishop de Aliens (1986) son menos prominentes en la cultura popular. [312]
Isaac Asimov introdujo las Tres Leyes de la Robótica en muchos libros e historias, entre las que destaca la serie "Multivac" sobre una computadora superinteligente del mismo nombre. Las leyes de Asimov a menudo se mencionan durante discusiones no profesionales sobre la ética de las máquinas; [313] Si bien casi todos los investigadores de inteligencia artificial están familiarizados con las leyes de Asimov a través de la cultura popular, generalmente consideran que las leyes son inútiles por muchas razones, una de las cuales es su ambigüedad. [314]
Varias obras utilizan la IA para obligarnos a afrontar la cuestión fundamental de qué nos hace humanos, mostrándonos seres artificiales que tienen la capacidad de sentir y, por tanto, de sufrir. Esto aparece en RUR de Karel Čapek , las películas AI Artificial Intelligence y Ex Machina , así como en la novela ¿Sueñan los androides con ovejas eléctricas? , por Philip K. Dick . Dick considera la idea de que nuestra comprensión de la subjetividad humana se ve alterada por la tecnología creada con inteligencia artificial. [315]
Los dos libros de texto más utilizados en 2023. (Ver el programa de estudios abierto).
Estos fueron los cuatro libros de texto sobre IA más utilizados en 2008:
Ediciones posteriores.
En cambio, Estados Unidos ha desarrollado una nueva área de dominio que el resto del mundo ve con una mezcla de asombro, envidia y resentimiento: la inteligencia artificial... Desde modelos e investigaciones de inteligencia artificial hasta computación en la nube y capital de riesgo, las empresas estadounidenses, Las universidades y los laboratorios de investigación (y sus afiliados en países aliados) parecen tener una enorme ventaja tanto en el desarrollo de IA de vanguardia como en su comercialización. El valor de las inversiones de capital de riesgo de Estados Unidos en nuevas empresas de IA supera el del resto del mundo combinado.
Definiciones de Wikcionario
Medios de los comunes
Citas de Wikiquote
Libros de texto de Wikilibros
Recursos de Wikiversidad
Datos de Wikidata