Ingeniería rápida

Estructuración del texto como entrada para la IA generativa

La ingeniería de indicaciones es el proceso de estructurar una instrucción que pueda ser interpretada y entendida por un modelo de IA generativa . ^{[1] [2]} Una indicación es un texto en lenguaje natural que describe la tarea que debe realizar una IA: ^{[3] una indicación para un} modelo de lenguaje de texto a texto puede ser una consulta como "¿cuál es el pequeño teorema de Fermat ?", ^[4] un comando como "escribe un poema sobre las hojas que caen", ^[5] o una declaración más larga que incluya contexto, instrucciones, ^[6] e historial de conversación. La ingeniería de indicaciones puede implicar formular una consulta, especificar un estilo, ^[5] proporcionar un contexto relevante ^[7] o asignar un rol a la IA como "Actuar como un hablante nativo de francés". ^[8] Una indicación puede incluir algunos ejemplos para que un modelo aprenda, como pedirle al modelo que complete "maison → house, chat → cat, chien →" (la respuesta esperada es dog ), ^[9] un enfoque llamado aprendizaje de pocos disparos . ^[10]

Al comunicarse con un modelo de texto a imagen o de texto a audio, un mensaje típico es una descripción de un resultado deseado, como "una foto de alta calidad de un astronauta montando a caballo" ^[11] o "electro chill de baja fidelidad con BPM lento con muestras orgánicas". ^[12] Dar mensajes a un modelo de texto a imagen puede implicar agregar, quitar, enfatizar y reordenar palabras para lograr un tema, estilo ^[1] , diseño, iluminación ^[13] y estética deseados.

Aprendizaje en contexto

La ingeniería de indicaciones se posibilita mediante el aprendizaje en contexto , definido como la capacidad de un modelo de aprender temporalmente a partir de indicaciones. La capacidad de aprendizaje en contexto es una capacidad emergente ^[14] de los modelos de lenguaje grandes . El aprendizaje en contexto en sí mismo es una propiedad emergente de la escala del modelo , lo que significa que se producen rupturas ^[15] en las leyes de escalamiento descendente de modo que su eficacia aumenta a un ritmo diferente en los modelos más grandes que en los modelos más pequeños. ^{[16] [17]}

A diferencia del entrenamiento y el ajuste fino para cada tarea específica, que no son temporales, lo aprendido durante el aprendizaje en contexto es de naturaleza temporal. No lleva los contextos o sesgos temporales, excepto los que ya están presentes en el conjunto de datos de (pre)entrenamiento , de una conversación a la otra. ^[18] Este resultado de la "optimización de mesa" ^{[19] [20]} dentro de las capas de transformadores , es una forma de metaaprendizaje o "aprender a aprender". ^[21]

Historia

En 2018, los investigadores propusieron por primera vez que todas las tareas que antes se hacían por separado en el procesamiento del lenguaje natural podrían plantearse como un problema de respuesta a preguntas sobre un contexto. Además, entrenaron un primer modelo único, conjunto y multitarea que respondería a cualquier pregunta relacionada con la tarea, como "¿Cuál es el sentimiento?", "Traduce esta oración al alemán" o "¿Quién es el presidente?" ^[22].

En 2021, los investigadores ajustaron un modelo preentrenado generativamente (T0) para realizar 12 tareas de PNL (utilizando 62 conjuntos de datos, ya que cada tarea puede tener múltiples conjuntos de datos). El modelo mostró un buen desempeño en nuevas tareas, superando a los modelos entrenados directamente para realizar solo una tarea (sin preentrenamiento). Para resolver una tarea, se le da a T0 la tarea en una indicación estructurada, por ejemplo, If {{premise}} is true, is it also true that {{hypothesis}}? ||| {{entailed}}.es la indicación utilizada para hacer que T0 resuelva la implicación . ^[23]

Un repositorio de sugerencias informó que en febrero de 2022 había disponibles más de 2000 sugerencias públicas para alrededor de 170 conjuntos de datos. ^[24]

En 2022, los investigadores de Google propusieron la técnica de incitación por cadena de pensamientos . ^{[17] [25]}

En 2023, varias bases de datos de indicaciones de texto a texto y de texto a imagen estuvieron disponibles públicamente. ^{[26] [27]}

Texto a texto

Cadena de pensamiento

La incitación por cadena de pensamiento (CoT) es una técnica que permite a los modelos de lenguaje grandes (LLM) resolver un problema como una serie de pasos intermedios ^[28] antes de dar una respuesta final. La incitación por cadena de pensamiento mejora la capacidad de razonamiento al inducir al modelo a responder un problema de varios pasos con pasos de razonamiento que imitan una línea de pensamiento . ^{[29] [17] [30]} Permite que los modelos de lenguaje grandes superen dificultades con algunas tareas de razonamiento que requieren pensamiento lógico y múltiples pasos para resolver, como preguntas de aritmética o de razonamiento de sentido común . ^{[31] [32] [33]}

Por ejemplo, dada la pregunta “P: La cafetería tenía 23 manzanas. Si usaron 20 para preparar el almuerzo y compraron 6 más, ¿cuántas manzanas tienen?”, una pregunta de CoT podría inducir al LLM a responder “A: La cafetería tenía 23 manzanas originalmente. Usaron 20 para preparar el almuerzo. Entonces tenían 23 - 20 = 3. Compraron 6 manzanas más, entonces tienen 3 + 6 = 9. La respuesta es 9”. ^[17]

Como se propuso originalmente, ^[17] cada mensaje de CoT incluía algunos ejemplos de preguntas y respuestas. Esto lo convertía en una técnica de mensajes de pocos intentos . Sin embargo, simplemente agregar las palabras "Pensemos paso a paso", ^[34] también ha demostrado ser eficaz, lo que convierte a CoT en una técnica de mensajes de cero intentos . Esto permite una mejor escalabilidad ya que un usuario ya no necesita formular muchos ejemplos específicos de preguntas y respuestas de CoT. ^[35]

Cuando se aplicó a PaLM , un modelo de lenguaje de parámetros 540B , la incitación de CoT ayudó significativamente al modelo, permitiéndole desempeñarse de manera comparable con modelos afinados específicos de la tarea en varias tareas, logrando resultados de vanguardia en ese momento en el punto de referencia de razonamiento matemático GSM8K . ^[17] Es posible afinar los modelos en conjuntos de datos de razonamiento CoT para mejorar aún más esta capacidad y estimular una mejor interpretabilidad . ^{[36] [37]}

Ejemplo: ^[34]

 P: {pregunta} A: Pensemos paso a paso.

Otras técnicas

La inducción por cadena de pensamientos es sólo una de las muchas técnicas de ingeniería de inducción. Se han propuesto otras técnicas y se han publicado al menos 29 técnicas distintas. ^[38]

Incitación por cadena de símbolos (CoS)

La estimulación por cadena de símbolos junto con la estimulación por CoT ayuda a los estudiantes de maestría en derecho con la dificultad de razonamiento espacial en el texto. En otras palabras, el uso de símbolos arbitrarios como "/" ayuda al estudiante de maestría en derecho a interpretar el espaciado en el texto. Esto ayuda al razonamiento y aumenta el rendimiento del estudiante de maestría en derecho. ^[39]

Ejemplo: ^[39]

Aporte: Hay un conjunto de ladrillos. El ladrillo amarillo C está encima del ladrillo E. El ladrillo amarillo D está encima del ladrillo A. El ladrillo amarillo E está encima del ladrillo D. El ladrillo blanco A está encima del ladrillo B. Para el ladrillo B, el color es blanco. Ahora tenemos que conseguir un ladrillo específico. Ahora hay que agarrar los ladrillos de arriba a abajo, y si hay que agarrar el ladrillo inferior, hay que quitar primero el superior. ¿Cómo conseguir el ladrillo D?B/A/D/E/CC/EA/DDProducción:Así que obtenemos el resultado como C, E, D.

Conocimiento generado que incita

La generación de conocimiento ^[40] primero incita al modelo a generar hechos relevantes para completar la instrucción y luego procede a completarla. La calidad de la finalización suele ser mayor, ya que el modelo puede condicionarse a hechos relevantes.

Ejemplo: ^[40]

 Generar algún conocimiento sobre los conceptos en la entrada. Entrada: {pregunta} Conocimiento:

De menor a mayor incitación

La indicación de menor a mayor ^[41] indica a un modelo que primero enumere los subproblemas de un problema y luego los resuelva en secuencia, de modo que los subproblemas posteriores se puedan resolver con la ayuda de las respuestas a los subproblemas anteriores.

Ejemplo: ^[41]

 Aporte: P: {pregunta} A: Analicemos este problema: 1.

Descodificación de la autoconsistencia

La decodificación de autoconsistencia ^[42] realiza varias secuencias de ideas y luego selecciona la conclusión a la que se llega con mayor frecuencia de todas. Si las secuencias difieren en gran medida, se puede consultar a un humano para que indique la secuencia de ideas correcta. ^[43]

Incitación basada en la complejidad

La estimulación basada en la complejidad ^[44] realiza varias implementaciones de CoT, luego selecciona las implementaciones con las cadenas de pensamiento más largas y luego selecciona la conclusión a la que se llega con mayor frecuencia entre ellas.

Autorefinarse

El autorefinamiento ^[45] solicita al LLM que resuelva el problema, luego solicita al LLM que critique su solución y luego solicita al LLM que resuelva el problema nuevamente en vista del problema, la solución y la crítica. Este proceso se repite hasta que se detiene, ya sea porque se agotan los tokens, el tiempo o porque el LLM emite un token de "detención".

Ejemplo de crítica: ^[45]

 Tengo un código. Haz una sugerencia para mejorar la legibilidad. No arregles el código, solo haz una sugerencia. Código: {código} Sugerencia:

Ejemplo de refinamiento:

 Código: {código} Utilicemos esta sugerencia para mejorar el código. Sugerencia: {sugerencia} Nuevo código:

Árbol del pensamiento

La incitación por árbol de pensamiento ^[46] generaliza la cadena de pensamiento al incitar al modelo a generar uno o más "posibles pasos siguientes" y luego ejecutar el modelo en cada uno de los posibles pasos siguientes mediante búsqueda en amplitud , haz o algún otro método de búsqueda en árbol. ^[47]

Incitación mayéutica

La incitación mayéutica es similar al árbol del pensamiento. Se le pide al modelo que responda una pregunta con una explicación. Luego se le pide al modelo que explique partes de la explicación, y así sucesivamente. Los árboles de explicación inconsistentes se podan o descartan. Esto mejora el desempeño en el razonamiento complejo de sentido común. ^[48]

Ejemplo: ^[48]

 P: {pregunta} A: Cierto, porque

 P: {pregunta} A: Falso, porque

Incitación por estímulo direccional

La estimulación direccional ^[49] incluye una pista o señal, como palabras clave deseadas, para guiar un modelo de lenguaje hacia el resultado deseado.

Ejemplo: ^[49]

 Artículo: {article} Palabras clave:

 Artículo: {article} P: Escriba un resumen breve del artículo en 2 a 4 oraciones que incorpore con precisión las palabras clave proporcionadas. Palabras clave: {keywords} A:

Incitación a revelar la incertidumbre

De manera predeterminada, la salida de los modelos de lenguaje puede no contener estimaciones de incertidumbre. El modelo puede generar texto que parezca confiable, aunque las predicciones de tokens subyacentes tengan puntajes de probabilidad bajos . Los modelos de lenguaje grandes como GPT-4 pueden tener puntajes de probabilidad calibrados con precisión en sus predicciones de tokens, ^[50] y, por lo tanto, la incertidumbre de la salida del modelo se puede estimar directamente leyendo los puntajes de probabilidad de las predicciones de tokens.

Pero si no se puede acceder a dichas puntuaciones (por ejemplo, cuando se accede al modelo a través de una API restrictiva), la incertidumbre aún se puede estimar e incorporar en la salida del modelo. Un método simple es pedirle al modelo que use palabras para estimar la incertidumbre. ^[51] Otro es pedirle al modelo que se niegue a responder de manera estandarizada si la entrada no satisface las condiciones. ^{[ cita requerida ]}

Generación automática de mensajes

Generación aumentada por recuperación

Proceso de dos fases de recuperación de documentos utilizando incrustaciones densas y un modelo de lenguaje amplio (LLM) para la formulación de respuestas

La generación aumentada por recuperación (RAG) es un proceso de dos fases que implica la recuperación de documentos y la formulación de respuestas mediante un modelo de lenguaje grande (LLM). La fase inicial utiliza incrustaciones densas para recuperar documentos. Esta recuperación puede basarse en una variedad de formatos de base de datos según el caso de uso, como una base de datos vectorial , un índice de resumen, un índice de árbol o un índice de tabla de palabras clave. ^[52]

En respuesta a una consulta, un recuperador de documentos selecciona los documentos más relevantes. Esta relevancia se determina típicamente codificando primero la consulta y los documentos en vectores, luego identificando los documentos cuyos vectores están más cerca en distancia euclidiana al vector de consulta. Después de la recuperación del documento, el LLM genera una salida que incorpora información tanto de la consulta como de los documentos recuperados. ^[53] Este método es particularmente beneficioso para manejar información patentada o dinámica que no se incluyó en las fases iniciales de entrenamiento o ajuste del modelo. RAG también es notable por su uso del aprendizaje de "pocos disparos", donde el modelo usa una pequeña cantidad de ejemplos, a menudo recuperados automáticamente de una base de datos, para informar sus salidas.

Recuperación de gráficos - Generación aumentada

GraphRAG con un gráfico de conocimiento que combina patrones de acceso para datos no estructurados, estructurados y mixtos.

GraphRAG, ^[54] acuñado por Microsoft Research, extiende RAG de modo que en lugar de depender únicamente de la similitud de vectores (como en la mayoría de los enfoques RAG), GraphRAG utiliza el gráfico de conocimiento generado por LLM. Este gráfico permite que el modelo conecte piezas dispares de información, sintetice conocimientos y comprenda de manera holística conceptos semánticos resumidos en grandes colecciones de datos.

Los investigadores han demostrado la eficacia de GraphRAG utilizando conjuntos de datos como Violent Incident Information from News Articles (VIINA). ^[55] Al combinar los gráficos de conocimiento generados por LLM con el aprendizaje automático de gráficos, GraphRAG mejora sustancialmente tanto la exhaustividad como la diversidad de las respuestas generadas para las preguntas de búsqueda de sentido global.

Trabajos anteriores demostraron la eficacia de utilizar un gráfico de conocimiento para responder preguntas mediante la generación de texto a consulta. ^[56] Estas técnicas se pueden combinar para realizar búsquedas en datos estructurados y no estructurados, lo que proporciona un contexto ampliado y una clasificación mejorada.

Uso de modelos de lenguaje para generar indicaciones

Los modelos de lenguaje grandes (LLM) se pueden utilizar para componer indicaciones para modelos de lenguaje grandes. ^{[57] [58] [59] [60]}

El algoritmo automático de ingeniería de indicaciones utiliza un LLM para realizar búsquedas en indicaciones de otro LLM: ^[61]

• Hay dos LLM: uno es el LLM de destino y el otro es el LLM de inducción.
• Se presentan ejemplos de pares de entrada-salida para LLM y se le pide que genere instrucciones que podrían haber hecho que un modelo que siguiera las instrucciones generara las salidas, dadas las entradas.
• Cada una de las instrucciones generadas se utiliza para activar el LLM de destino, seguido de cada una de las entradas. Se calculan y suman las probabilidades logarítmicas de las salidas. Esta es la puntuación de la instrucción.
• Las instrucciones con mayor puntuación se entregan al LLM que las solicita para realizar variaciones adicionales.
• Repita hasta que se alcance algún criterio de detención y luego emita las instrucciones con la puntuación más alta.

Los ejemplos de CoT pueden ser generados por los propios LLM. En "CoT automático", ^[62] una biblioteca de preguntas se convierte en vectores mediante un modelo como BERT . Los vectores de preguntas se agrupan . Se seleccionan las preguntas más cercanas a los centroides de cada grupo. Un LLM realiza un CoT de cero disparos en cada pregunta. Los ejemplos de CoT resultantes se agregan al conjunto de datos. Cuando se solicita una nueva pregunta, se pueden recuperar los ejemplos de CoT de las preguntas más cercanas y agregarlos al mensaje.

Texto a imagen

En 2022, se lanzaron al público modelos de texto a imagen como DALL-E 2 , Stable Diffusion y Midjourney . ^[63] Estos modelos toman indicaciones de texto como entrada y las usan para generar imágenes de arte de IA . Los modelos de texto a imagen generalmente no comprenden la gramática y la estructura de las oraciones de la misma manera que los modelos de lenguaje grandes , ^[64] y requieren un conjunto diferente de técnicas de indicaciones.

Formatos de indicaciones

Un mensaje de texto a imagen generalmente incluye una descripción del tema de la obra de arte (como amapolas de color naranja brillante ), el medio deseado (como pintura digital o fotografía ), el estilo (como hiperrealista o pop-art ), la iluminación (como iluminación de borde o rayos crepusculares ), el color y la textura. ^[65]

La documentación de Midjourney fomenta indicaciones breves y descriptivas: en lugar de "Muéstrame una imagen de muchas amapolas de California en flor, hazlas de un naranja brillante y vibrante, y dibújalas en un estilo ilustrado con lápices de colores", una indicación eficaz podría ser "Amapolas de California de color naranja brillante dibujadas con lápices de colores". ^[64]

El orden de las palabras afecta el resultado de una instrucción de texto a imagen. Las palabras que se encuentran más cerca del comienzo de una instrucción pueden tener un énfasis mayor. ^[1]

Estilos de artistas

Algunos modelos de conversión de texto a imagen son capaces de imitar el estilo de artistas concretos por su nombre. Por ejemplo, la frase en el estilo de Greg Rutkowski se ha utilizado en los mensajes de Stable Diffusion y Midjourney para generar imágenes en el estilo distintivo del artista digital polaco Greg Rutkowski. ^[66]

Indicaciones negativas

Demostración del efecto de los estímulos negativos en imágenes generadas con Stable Diffusion

• Arriba : sin mensaje negativo
• Centro : "árboles verdes"
• Abajo : "piedras redondas, rocas redondas"

Los modelos de conversión de texto a imagen no comprenden de forma nativa la negación. Es probable que la indicación "una fiesta sin tarta" produzca una imagen que incluya una tarta. ^[64] Como alternativa, las indicaciones negativas permiten al usuario indicar, en una indicación separada, qué términos no deben aparecer en la imagen resultante. ^[67] Un enfoque común es incluir términos genéricos no deseados, como feo, aburrido o mala anatomía, en la indicación negativa de una imagen.

Texto a vídeo

La generación de texto a video (TTV) es una tecnología emergente que permite la creación de videos directamente a partir de descripciones textuales. Este campo tiene potencial para transformar la producción de videos, la animación y la narración de historias. Al utilizar el poder de la inteligencia artificial, TTV permite a los usuarios pasar por alto las herramientas de edición de video tradicionales y traducir sus ideas en imágenes en movimiento.

Los modelos incluyen:

• Runway Gen-2 : ofrece una interfaz fácil de usar y admite varios estilos de video
• Lumiere – Diseñado para la generación de videos de alta resolución ^[68]
• Make-a-Video: se centra en la creación de resultados de vídeo detallados y diversos ^[69]
• Sora de OpenAI : Sora, que aún no se ha lanzado, supuestamente puede producir videos de alta resolución ^{[70] [71]}

Indicaciones no textuales

Algunos enfoques amplían o reemplazan las indicaciones de texto en lenguaje natural con entradas que no son texto.

Inversión textual e incrustaciones

Para los modelos de conversión de texto a imagen, la "inversión textual" ^[72] realiza un proceso de optimización para crear una nueva palabra incrustada en base a un conjunto de imágenes de ejemplo. Este vector de incrustación actúa como una "pseudopalabra" que puede incluirse en un mensaje para expresar el contenido o el estilo de los ejemplos.

Incitación por imagen

En 2023, la investigación de IA de Meta lanzó Segment Anything, un modelo de visión artificial que puede realizar la segmentación de imágenes mediante indicaciones. Como alternativa a las indicaciones de texto, Segment Anything puede aceptar cuadros delimitadores, máscaras de segmentación y puntos de primer plano y fondo. ^[73]

Uso del descenso de gradiente para buscar indicaciones

En el "ajuste de prefijo", ^[74] "ajuste de aviso" o "aviso suave", ^[75] los vectores con valores de punto flotante se buscan directamente por descenso de gradiente , para maximizar la verosimilitud logarítmica en las salidas.

Formalmente, sea un conjunto de tokens de indicaciones suaves (incrustaciones ajustables), mientras que y sean las incrustaciones de tokens de la entrada y la salida respectivamente. Durante el entrenamiento, las incrustaciones ajustables, los tokens de entrada y salida se concatenan en una sola secuencia y se alimentan a los modelos de lenguaje grandes (LLM). Las pérdidas se calculan sobre los tokens; los gradientes se retropropagan a parámetros específicos de las indicaciones: en el ajuste de prefijos, son parámetros asociados con los tokens de indicaciones en cada capa; en el ajuste de indicaciones, son simplemente los tokens suaves agregados al vocabulario. ^[76] ${\displaystyle \mathbf {E} =\{\mathbf {e_{1}} ,\dots ,\mathbf {e_{k}} \}}$ ${\displaystyle \mathbf {X} =\{\mathbf {x_{1}} ,\dots ,\mathbf {x_{m}} \}}$ ${\displaystyle \mathbf {Y} =\{\mathbf {y_{1}} ,\dots ,\mathbf {y_{n}} \}}$ ${\displaystyle {\text{concat}}(\mathbf {E} ;\mathbf {X} ;\mathbf {Y} )}$ ${\displaystyle \mathbf {Y} }$

Más formalmente, esto es un ajuste rápido. Sea un LLM escrito como , donde es una secuencia de tokens lingüísticos, es la función token-a-vector y es el resto del modelo. En el ajuste de prefijo, se proporciona un conjunto de pares de entrada-salida , y luego se usa el descenso de gradiente para buscar . En palabras, es la probabilidad logarítmica de generar , si el modelo primero codifica la entrada en el vector , luego antepone el vector con el "vector de prefijo" , luego aplica . ${\displaystyle LLM(X)=F(E(X))}$ ${\displaystyle X}$ ${\displaystyle E}$ ${\displaystyle F}$ ${\displaystyle \{(X^{i},Y^{i})\}_{i}}$ ${\displaystyle \arg \max _{\tilde {Z}}\sum _{i}\log Pr[Y^{i}|{\tilde {Z}}\ast E(X^{i})]}$ ${\displaystyle \log Pr[Y^{i}|{\tilde {Z}}\ast E(X^{i})]}$ ${\displaystyle Y^{i}}$ ${\displaystyle X^{i}}$ ${\displaystyle E(X^{i})}$ ${\displaystyle {\tilde {Z}}}$ ${\displaystyle F}$

Para el ajuste de prefijo, es similar, pero el "vector de prefijo" se agrega previamente a los estados ocultos en cada capa del modelo. ${\displaystyle {\tilde {Z}}}$

Un resultado anterior ^[77] utiliza la misma idea de búsqueda por descenso de gradiente, pero está diseñado para modelos de lenguaje enmascarado como BERT, y busca solo en secuencias de tokens, en lugar de vectores numéricos. Formalmente, busca dónde se encuentran los rangos en secuencias de tokens de una longitud especificada. ${\displaystyle \arg \max _{\tilde {X}}\sum _{i}\log Pr[Y^{i}|{\tilde {X}}\ast X^{i}]}$ ${\displaystyle {\tilde {X}}}$

Inyección rápida

La inyección de instrucciones es una familia de exploits de seguridad informática relacionados que se llevan a cabo haciendo que un modelo de aprendizaje automático (como un LLM) que fue entrenado para seguir instrucciones dadas por humanos siga instrucciones proporcionadas por un usuario malintencionado. Esto contrasta con el funcionamiento previsto de los sistemas de seguimiento de instrucciones, en los que el modelo de ML solo está destinado a seguir instrucciones confiables (instrucciones) proporcionadas por el operador del modelo de ML. ^{[78] [79] [80]}

Véase también

• Ingeniería social (seguridad)

Referencias

1. Diab, Mohamad; Herrera, Julian; Chernow, Bob (28 de octubre de 2022). "Libro de indicaciones de difusión estable" (PDF) . Consultado el 7 de agosto de 2023. La ingeniería de indicaciones es el proceso de estructurar palabras que un modelo de texto a imagen pueda interpretar y comprender . Piense en ello como el lenguaje que necesita hablar para decirle a un modelo de IA qué dibujar.
2. Ziegler, Albert; Berryman, John (17 de julio de 2023). "Una guía para desarrolladores sobre ingeniería rápida y maestrías en derecho". El blog de GitHub . La ingeniería rápida es el arte de comunicarse con un modelo de IA generativo.
3. Radford, Alec; Wu, Jeffrey; Child, Rewon; Luan, David; Amodei, Dario; Sutskever, Ilya (2019). "Los modelos de lenguaje son aprendices multitarea no supervisados" (PDF) . OpenAI. Demostramos que los modelos de lenguaje pueden realizar tareas posteriores en un entorno de cero disparos, sin ninguna modificación de parámetros o arquitectura.
4. "Presentación de ChatGPT". Blog de OpenAI . 2022-11-30 . Consultado el 2023-08-16 . ¿Qué es el pequeño teorema de Fermat?
5. Robinson, Reid (3 de agosto de 2023). "Cómo escribir un mensaje de GPT-3 o GPT-4 eficaz". Zapier . Consultado el 14 de agosto de 2023 ."Indicación básica: 'Escribe un poema sobre la caída de las hojas'. Indicación mejor: 'Escribe un poema al estilo de Edgar Allan Poe sobre la caída de las hojas'.
6. Gouws-Stewart, Natasha (16 de junio de 2023). "La guía definitiva para diseñar rápidamente su modelo GPT-3.5-Turbo". masterofcode.com .
7. Greenberg, J., Laura (31 de mayo de 2023). "Cómo preparar y promover ChatGPT para una asistencia más confiable en la redacción de contratos". contractnerds.com . Consultado el 24 de julio de 2023 .
8. "Mejores prácticas de GPT". OpenAI . Consultado el 16 de agosto de 2023 .
9. Garg, Shivam; Tsipras, Dimitris; Liang, Percy; Valiant, Gregory (2022). "¿Qué pueden aprender los transformadores en contexto? Un estudio de caso de clases de funciones simples". arXiv : 2208.01066 [cs.CL].
10. Brown, Tom; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared D.; Dhariwal, Prafulla; Neelakantan, Arvind (2020). "Los modelos de lenguaje son aprendices de pocas oportunidades". Avances en sistemas de procesamiento de información neuronal . 33 : 1877–1901. arXiv : 2005.14165 .
11. Heaven, Will Douglas (6 de abril de 2022). «Este astronauta a caballo es un hito en el largo camino de la IA hacia la comprensión». MIT Technology Review . Consultado el 14 de agosto de 2023 .
12. Wiggers, Kyle (12 de junio de 2023). "Meta publica un generador de música con tecnología de inteligencia artificial". TechCrunch . Consultado el 15 de agosto de 2023 . A continuación, di un mensaje más complicado para intentar confundir a MusicGen: "Lo-fi slow BPM electro chill con samples orgánicos".
13. "Cómo escribir indicaciones para sesiones de fotos con IA: una guía para obtener mejores fotografías de productos". claid.ai . 12 de junio de 2023 . Consultado el 12 de junio de 2023 .
14. Wei, Jason; Tay, Yi; Bommasani, Rishi; Raffel, Colin; Zoph, Barret; Borgeaud, Sebastian; Yogatama, Dani; Bosma, Maarten; Zhou, Denny; Metzler, Donald; Chi, Ed H.; Hashimoto, Tatsunori; Vinyals, Oriol; Liang, Percy; Dean, Jeff; Fedus, William (31 de agosto de 2022). "Habilidades emergentes de modelos de lenguaje grandes". arXiv : 2206.07682 [cs.CL]. En la indicación, un modelo de lenguaje entrenado previamente recibe una indicación (por ejemplo, una instrucción en lenguaje natural) de una tarea y completa la respuesta sin ningún entrenamiento adicional o actualizaciones de gradiente de sus parámetros... La capacidad de realizar una tarea mediante una indicación de pocos intentos es emergente cuando un modelo tiene un rendimiento aleatorio hasta una cierta escala, después de la cual el rendimiento aumenta muy por encima del aleatorio.
15. Caballero, Ethan; Gupta, Kshitij; Rish, Irina; Krueger, David (2022). "Leyes de escalamiento neuronal rotas". Conferencia internacional sobre representaciones del aprendizaje (ICLR), 2023.
16. Wei, Jason; Tay, Yi; Bommasani, Rishi; Raffel, Colin; Zoph, Barret; Borgeaud, Sebastián; Yogatama, Dani; Bosma, Martín; Zhou, Denny; Metzler, Donald; Chi, Ed H.; Hashimoto, Tatsunori; Vinyals, Oriol; Liang, Percy; Decano, Jeff; Fedus, William (31 de agosto de 2022). "Habilidades emergentes de grandes modelos lingüísticos". arXiv : 2206.07682 [cs.CL].
17. Wei, Jason; Wang, Xuezhi; Schuurmans, Dale; Bosma, Maarten; Ichter, Brian; Xia, Fei; Chi, Ed H.; Le, Quoc V.; Zhou, Denny (31 de octubre de 2022). La estimulación en cadena de pensamiento genera razonamiento en modelos de lenguaje grandes. Avances en sistemas de procesamiento de información neuronal (NeurIPS 2022). Vol. 35. arXiv : 2201.11903 .
18. Musser, George. "Cómo la IA sabe cosas que nadie le dijo". Scientific American . Consultado el 17 de mayo de 2023. Para cuando escriba una consulta en ChatGPT, la red debería estar arreglada; a diferencia de los humanos, no debería seguir aprendiendo. Por eso, fue una sorpresa que los LLM, de hecho, aprendan de las indicaciones de sus usuarios, una capacidad conocida como aprendizaje en contexto.
19. Johannes von Oswald; Niklasson, Eyvind; Randazzo, Ettore; Sacramento, João; Mordvintsev, Alexander; Zhmoginov, Andrey; Vladymyrov, Max (2022). "Los transformadores aprenden en contexto mediante descenso de gradiente". arXiv : 2212.07677 [cs.LG]. De esta manera, mostramos cómo los transformadores entrenados se convierten en optimizadores de mesa, es decir, aprenden modelos mediante descenso de gradiente en su paso hacia adelante.
20. "Mesa-Optimization". 31 de mayo de 2019. Consultado el 17 de mayo de 2023. Mesa-Optimization es la situación que ocurre cuando un modelo aprendido (como una red neuronal) es en sí mismo un optimizador.
21. Garg, Shivam; Tsipras, Dimitris; Liang, Percy; Valiant, Gregory (2022). "¿Qué pueden aprender los transformadores en contexto? Un estudio de caso de clases de funciones simples". arXiv : 2208.01066 [cs.CL]. El entrenamiento de un modelo para realizar aprendizaje en contexto puede verse como una instancia del paradigma más general de aprendizaje a aprender o metaaprendizaje.
22. McCann, Bryan; Shirish, Nitish; Xiong, Caiming; Socher, Richard (2018). "El decatlón del lenguaje natural: aprendizaje multitarea como respuesta a preguntas". arXiv : 1806.08730 [cs.CL].
23. Sanh, Victor; et al. (2021). "El entrenamiento basado en múltiples tareas permite la generalización de tareas sin interrupciones". arXiv : 2110.08207 [cs.LG].
24. Bach, Stephen H.; Sanh, Victor; Yong, Zheng-Xin; Webson, Albert; Raffel, Colin; Nayak, Nihal V.; Sharma, Abheesht; Kim, Taewoon; M Saiful Bari; Fevry, Thibault; Alyafeai, Zaid; Dey, Manan; Santilli, Andrea; Sun, Zhiqing; Ben-David, Srulik; Xu, Canwen; Chhablani, Gunjan; Wang, Han; Jason Alan Fries; Al-shaibani, Maged S.; Sharma, Shanya; Thakker, Urmish; Almubarak, Khalid; Tang, Xiangru; Radev, Dragomir; Mike Tian-Jian Jiang; Rush, Alexander M. (2022). "PromptSource: Un entorno de desarrollo integrado y un repositorio para indicaciones de lenguaje natural". arXiv : 2202.01279 [cs.LG].
25. Wei, Jason; Zhou (11 de mayo de 2022). "Los modelos de lenguaje realizan razonamientos mediante cadenas de pensamiento". ai.googleblog.com . Consultado el 10 de marzo de 2023 .
26. Chen, Brian X. (23 de junio de 2023). "Cómo convertir a tu chatbot en un coach de vida". The New York Times .
27. Chen, Brian X. (25 de mayo de 2023). "Obtenga lo mejor de ChatGPT con estos mensajes de oro". The New York Times . ISSN  0362-4331 . Consultado el 16 de agosto de 2023 .
28. McAuliffe, Zachary. "El último modelo de inteligencia artificial de Google puede aprender a resolver problemas". CNET . Consultado el 10 de marzo de 2023 .'La estimulación en cadena de pensamientos nos permite describir problemas de varios pasos como una serie de pasos intermedios', afirma Sundar Pichai, director ejecutivo de Google
29. McAuliffe, Zachary. "El último modelo de inteligencia artificial de Google puede aprender a resolver problemas". CNET . Consultado el 10 de marzo de 2023 .
30. Sharan Narang y Aakanksha Chowdhery (4 de abril de 2022). "Pathways Language Model (PaLM): escalabilidad a 540 mil millones de parámetros para un rendimiento innovador".
31. Dang, Ekta (8 de febrero de 2023). "Aprovechando el poder de GPT-3 en la investigación científica". VentureBeat . Consultado el 10 de marzo de 2023 .
32. Montti, Roger (13 de mayo de 2022). «La incitación a la cadena de pensamiento de Google puede impulsar los mejores algoritmos actuales». Search Engine Journal . Consultado el 10 de marzo de 2023 .
33. Ray, Tiernan. "Los científicos de Alexa de Amazon demuestran que una IA más grande no siempre es mejor". ZDNET . Consultado el 10 de marzo de 2023 .
34. Kojima, Takeshi; Shixiang Shane Gu; Reid, Machel; Matsuo, Yutaka; Iwasawa, Yusuke (2022). "Los modelos de lenguaje grandes son razonadores de disparo cero". arXiv : 2205.11916 [cs.CL].
35. Dickson, Ben (30 de agosto de 2022). "Los LLM no han aprendido nuestro idioma: estamos tratando de aprender el suyo". VentureBeat . Consultado el 10 de marzo de 2023 .
36. Chung, Hyung Won; Hou, Le; Longpre, Shayne; Zoph, Barret; Tay, Yi; Fedus, William; Li, Yunxuan; Wang, Xuezhi; Dehghani, Mostafa; Brahma, Siddhartha; Webson, Albert; Gu, Shixiang Shane; Dai, Zhuyun; Suzgun, Mirac; Chen, Xinyun; Chowdhery, Aakanksha; Castro-Ros, Alex; Pellat, Marie; Robinson, Kevin; Valter, Dasha; Narang, Sharan; Mishra, Gaurav; Yu, Adams; Zhao, Vincent; Huang, Yanping; Dai, Andrew; Yu, Hongkun; Petrov, Slav; Chi, Ed H.; Dean, Jeff; Devlin, Jacob; Roberts, Adam; Zhou, Denny; Le, Quoc V.; Wei, Jason (2022). "Escalado de modelos de lenguaje de instrucción afinada". arXiv : 2210.11416 [cs.LG].
37. Wei, Jason; Tay, Yi (29 de noviembre de 2022). "Mejores modelos de lenguaje sin computación masiva". ai.googleblog.com . Consultado el 10 de marzo de 2023 .
38. Sahoo, Pranab; Singh, Ayush Kumar; Saha, Sriparna; Jain, Vinija; Mondal, Samrat; Chadha, Aman (5 de febrero de 2024), Un estudio sistemático de la ingeniería rápida en modelos de lenguajes grandes: técnicas y aplicaciones , arXiv : 2402.07927
39. Hu, Hanxu; Lu, Hongyuan; Zhang, Huajian; Canción, Yun-Ze; Lam, Wai; Zhang, Yue (3 de octubre de 2023), La cadena de símbolos provoca la planificación en modelos de lenguaje grandes , arXiv : 2305.10276
40. Liu, Jiacheng; Liu, Alisa; Lu, Ximing; Welleck, Sean; West, Peter; Le Bras, Ronan; Choi, Yejin; Hajishirzi, Hannaneh (mayo de 2022). "Conocimiento generado que impulsa el razonamiento de sentido común". Actas de la 60.ª reunión anual de la Asociación de Lingüística Computacional (volumen 1: artículos extensos) . Dublín, Irlanda: Asociación de Lingüística Computacional: 3154–3169. arXiv : 2110.08387 . doi : 10.18653/v1/2022.acl-long.225 . S2CID  : 239016123.
41. Zhou, Denny; Schärli, Nathanael; Hou, Le; Wei, Jason; Scales, Nathan; Wang, Xuezhi; Schuurmans, Dale; Cui, Claire; Bousquet, Olivier; Le, Quoc; Chi, Ed (1 de mayo de 2022). "La indicación de menor a mayor permite un razonamiento complejo en modelos de lenguaje grandes". arXiv : 2205.10625 [cs.AI]. ...indicación de menor a mayor. La idea clave de esta estrategia es dividir un problema complejo en una serie de subproblemas más simples y luego resolverlos en secuencia.
42. Wang, Xuezhi; Wei, Jason; Schuurmans, Dale; Le, Quoc; Chi, Ed; Narang, Sharan; Chowdhery, Aakanksha; Zhou, Denny (1 de marzo de 2022). "La autoconsistencia mejora el razonamiento en cadena de pensamiento en modelos lingüísticos". arXiv : 2203.11171 [cs.CL].
43. Diao, Shizhe; Wang, Pengcheng; Lin, Yong; Zhang, Tong (1 de febrero de 2023). "Incitación activa con cadena de pensamiento para modelos de lenguaje grandes". arXiv : 2302.12246 [cs.CL].
44. Fu, Yao; Peng, Hao; Sabharwal, Ashish; Clark, Peter; Khot, Tushar (1 de octubre de 2022). "Incitación basada en la complejidad para el razonamiento de varios pasos". arXiv : 2210.00720 [cs.CL].
45. Madaan, Aman; Tandón, Niket; Gupta, Prakhar; Hallinan, Skyler; Gao, Luyu; Wiegreffe, Sarah; Alón, Uri; Dziri, Nouha; Prabhumoye, Srimai; Yang, Yiming; Gupta, Shashank; Prasad Majumder, Bodhisattwa; Hermann, Katherine; Welleck, Sean; Yazdanbakhsh, Amir (1 de marzo de 2023). "Autorrefinamiento: refinamiento iterativo con autorretroalimentación". arXiv : 2303.17651 [cs.CL].
46. Long, Jieyi (15 de mayo de 2023). "Árbol de pensamiento guiado por un modelo de lenguaje grande". arXiv : 2305.08291 [cs.AI].
47. Yao, Shunyu; Yu, Dian; Zhao, Jeffrey; Shafran, Izhak; Griffiths, Thomas L.; Cao, Yuan; Narasimhan, Karthik (17 de mayo de 2023). "Árbol de pensamientos: resolución deliberada de problemas con modelos de lenguaje grandes". arXiv : 2305.10601 [cs.CL].
48. Jung, Jaehun; Qin, Lianhui; Welleck, Sean; Brahman, Faeze; Bhagavatula, Chandra; Le Bras, Ronan; Choi, Yejin (2022). "Incitación mayéutica: razonamiento lógicamente consistente con explicaciones recursivas". arXiv : 2205.11822 [cs.CL].
49. Li, Zekun; Peng, Baolin; He, Pengcheng; Galley, Michel; Gao, Jianfeng; Yan, Xifeng (2023). "Guiding Large Language Models via Directional Stimulus Prompting". arXiv : 2302.11520 [cs.CL]. El estímulo direccional sirve como pistas o señales para cada consulta de entrada para guiar a los LLM hacia el resultado deseado, como palabras clave que el resumen deseado debe incluir para resumir.
50. OpenAI (27 de marzo de 2023). «Informe técnico de GPT-4». arXiv : 2303.08774 [cs.CL]. [Véase la figura 8.]
51. Eliot, Lance (18 de agosto de 2023). "La última técnica de ingeniería de indicaciones tiene como objetivo obtener certeza e incertidumbre de la IA generativa directamente sobre la mesa y al descubierto". Forbes . Consultado el 31 de agosto de 2024 . Si indica explícitamente en su indicación que desea que la IA generativa emita una calificación de certeza o incertidumbre, es casi seguro que obtendrá dicha indicación.
52. "Cómo funciona cada índice - LlamaIndex 🦙 v0.10.17". docs.llamaindex.ai . Consultado el 8 de abril de 2024 .
53. Lewis, Patrick; Perez, Ethan; Piktus, Aleksandra; Petroni, Fabio; Karpukhin, Vladimir; Goyal, Naman; Küttler, Heinrich; Lewis, Mike; Yih, Wen-tau; Rocktäschel, Tim; Riedel, Sebastian; Kiela, Douwe (2020). "Generación aumentada por recuperación para tareas de PNL intensivas en conocimiento". Avances en sistemas de procesamiento de información neuronal . 33 . Curran Associates, Inc.: 9459–9474. arXiv : 2005.11401 .
54. GraphRAG: Desbloqueo del descubrimiento LLM en datos privados narrativos, 2024
55. Edge, Darren; Trinh, Ha; Cheng, Newman; Bradley, Joshua; Chao, Alex; Mody, Apurva; Truitt, Steven; Larson, Jonathan (2024), De lo local a lo global: un enfoque gráfico RAG para el resumen centrado en consultas , arXiv : 2404.16130
56. Sequeda, Juan; Allemang, Dean; Jacob, Bryon (2023), Un punto de referencia para comprender el papel de los gráficos de conocimiento en la precisión de los modelos de lenguaje grandes para responder preguntas en bases de datos SQL empresariales , arXiv : 2311.07509
57. Singh, Chandan; Morris, John; Aneja, Jyoti; Rush, Alexander; Gao, Jianfeng (4 de octubre de 2022). "Explicación de patrones en datos con modelos de lenguaje a través de indicaciones automáticas interpretables". arXiv .
58. Fernando, Chrisantha; Banarse, Dylan; Michalewski, Henryk; Osindero, Simon; Rocktäschel, Tim (2023). "Promptbreeder: automejora autorreferencial a través de la evolución rápida". arXiv : 2309.16797 . {{cite journal}}: Requiere citar revista |journal=( ayuda )
59. Pryzant, Reid; Iter, Dan; Li, Jerry; Lee, Yin Tat; Zhu, Chenguang; Zeng, Michael (2023). "Optimización automática de indicaciones con "descenso de gradiente" y búsqueda de haz". arXiv : 2305.03495 . {{cite journal}}: Requiere citar revista |journal=( ayuda )
60. Guo, Qingyan; Wang, Rui; Guo, Junliang; Li, Bei; Canción, Kaitao; Tan, Xu; Liu, Guoqing; Bian, Jiang; Yang, Yujiu (2023). "La conexión de modelos de lenguaje grandes con algoritmos evolutivos produce potentes optimizadores rápidos". arXiv : 2309.08532 . {{cite journal}}: Requiere citar revista |journal=( ayuda )
61. Zhou, Yongchao; Ioan Muresanu, Andrei; Han, Ziwen; Paster, Keiran; Pitis, Silviu; Chan, Harris; Ba, Jimmy (1 de noviembre de 2022). "Los modelos de lenguaje de gran tamaño son ingenieros de indicaciones a nivel humano". arXiv : 2211.01910 [cs.LG].
62. Zhang, Zhuosheng; Zhang, Aston; Li, Mu; Smola, Alex (1 de octubre de 2022). "Incitación automática de cadenas de pensamiento en modelos de lenguaje grandes". arXiv : 2210.03493 [cs.CL].
63. Monge, Jim Clyde (25 de agosto de 2022). "Dall-E2 frente a difusión estable: mismo mensaje, resultados diferentes". MLearning.ai . Consultado el 31 de agosto de 2022 .
64. "Prompts" . Consultado el 14 de agosto de 2023 .
65. "Indicación de difusión estable: una guía definitiva". 2023-05-14 . Consultado el 2023-08-14 .
66. Heikkilä, Melissa (16 de septiembre de 2022). "Este artista está dominando el arte generado por IA y no está contento con ello". MIT Technology Review . Consultado el 14 de agosto de 2023 .
67. Max Woolf (28 de noviembre de 2022). «Difusión estable 2.0 y la importancia de los estímulos negativos para obtener buenos resultados» . Consultado el 14 de agosto de 2023 .
68. "Lumiere - Investigación de Google". Lumiere - Investigación de Google . Consultado el 25 de febrero de 2024 .
69. "Presentamos Make-A-Video: un sistema de inteligencia artificial que genera videos a partir de texto". ai.meta.com . Consultado el 25 de febrero de 2024 .
70. "Modelos de generación de video como simuladores del mundo". openai.com . Consultado el 25 de febrero de 2024 .
71. Equipo, PromptSora. "Entender Sora de OpenAI: un salto revolucionario | PromptSora: descubre indicaciones y videos para Sora de Open AI". PromptSora . Consultado el 25 de febrero de 2024 .
72. Gal, Rinon; Alaluf, Yuval; Atzmon, Yuval; Patashnik, Or; Bermano, Amit H.; Chechik, Gal; Cohen-Or, Daniel (2022). "Una imagen vale una palabra: personalización de la generación de texto a imagen mediante inversión textual". arXiv : 2208.01618 [cs.CV]. Usando solo 3-5 imágenes de un concepto proporcionado por el usuario, como un objeto o un estilo, aprendemos a representarlo a través de nuevas "palabras" en el espacio de incrustación de un modelo de texto a imagen congelado.
73. Kirillov, Alejandro; Mintun, Eric; Ravi, Nikhila; Mao, Hanzi; Rolland, Cloe; Gustafson, Laura; Xiao, Tete; Whitehead, Spencer; Berg, Alejandro C.; Lo, Wan-Yen; Dollár, Piotr; Girshick, Ross (1 de abril de 2023). "Segmentar cualquier cosa". arXiv : 2304.02643 [cs.CV].
74. Li, Xiang Lisa; Liang, Percy (2021). "Prefix-Tuning: Optimizing Continuous Prompts for Generation". Actas de la 59.ª Reunión Anual de la Asociación de Lingüística Computacional y la 11.ª Conferencia Conjunta Internacional sobre Procesamiento del Lenguaje Natural (Volumen 1: Documentos Largos) . págs. 4582–4597. doi :10.18653/V1/2021.ACL-LONG.353. S2CID  230433941. En este artículo, proponemos el prefijo-tuning, una alternativa ligera al ajuste fino... El prefijo-tuning se inspira en el prefijo-tuning.
75. Lester, Brian; Al-Rfou, Rami; Constant, Noah (2021). "El poder de la escala para el ajuste de indicaciones con eficiencia de parámetros". Actas de la Conferencia de 2021 sobre métodos empíricos en el procesamiento del lenguaje natural . págs. 3045–3059. arXiv : 2104.08691 . doi :10.18653/V1/2021.EMNLP-MAIN.243. S2CID  233296808. En este trabajo, exploramos el "ajuste de indicaciones", un mecanismo simple pero efectivo para aprender "indicaciones suaves"... A diferencia de las indicaciones de texto discretas utilizadas por GPT-3, las indicaciones suaves se aprenden mediante retropropagación.
76. Sun, Simeng; Liu, Yang; Iter, Dan; Zhu, Chenguang; Iyyer, Mohit (2023). "¿Cómo ayuda el aprendizaje en contexto a acelerar el ajuste?". arXiv : 2302.11521 [cs.CL].
77. Shin, Taylor; Razeghi, Yasaman; Logan IV, Robert L.; Wallace, Eric; Singh, Sameer (noviembre de 2020). "AutoPrompt: obtención de conocimiento a partir de modelos lingüísticos con indicaciones generadas automáticamente". Actas de la Conferencia de 2020 sobre métodos empíricos en el procesamiento del lenguaje natural (EMNLP) . En línea: Association for Computational Linguistics. págs. 4222–4235. doi : 10.18653/v1/2020.emnlp-main.346 . S2CID  : 226222232.
78. Willison, Simon (12 de septiembre de 2022). "Ataques de inyección rápida contra GPT-3". simonwillison.net . Consultado el 9 de febrero de 2023 .
79. Papp, Donald (17 de septiembre de 2022). "Lo viejo se vuelve nuevo: el ataque de inyección de avisos GPT-3 afecta a la IA". Hackaday . Consultado el 9 de febrero de 2023 .
80. Vigliarolo, Brandon (19 de septiembre de 2022). "El ataque de 'inyección rápida' de GPT-3 provoca malos modales en los bots". www.theregister.com . Consultado el 9 de febrero de 2023 .