IA 4 de noviembre de 2026 5 MIN DE LECTURA
Generación aumentada por recuperación, explicada sin rodeos
Qué es RAG, cómo funcionaba el sistema original de 2020, qué midió el artículo y dónde falla la recuperación, con las cifras de las fuentes.
LA RESPUESTA CORTA
La generación aumentada por recuperación permite que un modelo de lenguaje busque pasajes en un índice externo antes de responder. El artículo de 2020 mostró mejores resultados en preguntas y respuestas, y que el índice puede sustituirse sin reentrenar el modelo. Está limitada por lo indexado, por lo bien que se encontró y por cómo se usa el texto.
En esta página
El problema que resuelve la recuperación
Un modelo de lenguaje guarda lo que sabe dentro de sus parámetros. El artículo de 2020 que dio nombre a la generación aumentada por recuperación (RAG), de Patrick Lewis y colaboradores en Facebook AI Research, University College London y New York University, enumera los puntos débiles de ese diseño: estos modelos no pueden ampliar ni revisar fácilmente su memoria, no pueden mostrar sin más de dónde sale una predicción y pueden producir «alucinaciones».
La respuesta de los autores fue combinar dos tipos de memoria. La memoria paramétrica es el propio modelo preentrenado. La memoria no paramétrica es una colección externa de documentos en la que el modelo puede buscar antes de responder.
Cómo funcionaba el sistema original
El artículo es concreto, y por eso sirve bien para entender la idea.
- La biblioteca. Un volcado de Wikipedia de diciembre de 2018, cortado en fragmentos disjuntos de 100 palabras, lo que daba unos 21 millones de pasajes. Un codificador de documentos basado en BERT convertía cada pasaje en un vector, una lista de números, y todos ellos iban a parar a un único índice consultable.
- El recuperador. Dada una pregunta, un segundo codificador también la convertía en un vector, y una búsqueda de máximo producto interno devolvía los K pasajes más cercanos.
- El generador. BART-large, un modelo secuencia a secuencia con 400 millones de parámetros. La pregunta y un pasaje recuperado se unían sin más como su entrada.
- Entrenamiento. El recuperador y el generador se entrenaron juntos, sin ninguna indicación sobre qué pasaje recuperar. El codificador de documentos y el índice se mantenían fijos; solo se ajustaban el codificador de consultas y el generador.
El artículo compara dos variantes. RAG-Sequence usa el mismo pasaje para toda la respuesta. RAG-Token puede recurrir a un pasaje distinto para cada palabra que escribe.
Qué aportó
En preguntas y respuestas de dominio abierto, RAG estableció un nuevo estado del arte en Natural Questions, WebQuestions y CuratedTrec. En TriviaQA lo hizo solo en la división que permite la comparación con T5. En Natural Questions, RAG-Sequence obtuvo 44,5 de coincidencia exacta, frente a 34,5 del T5-11B de libro cerrado, que no tiene recuperación.
Para redactar en lugar de responder, los autores pidieron a evaluadores humanos que compararan 452 pares de preguntas al estilo de Jeopardy generadas por BART y por RAG. BART fue juzgado más fiel a los hechos en el 7,1 % de los casos, y RAG en el 42,7 %. La recuperación también ayudaba cuando fallaba: en Natural Questions, RAG produjo una respuesta correcta en el 11,8 % de los casos en que ningún pasaje recuperado la contenía, algo que no podía hacer un sistema extractivo.
El truco de la actualización
El resultado más práctico tiene que ver con la actualidad de la información. Los autores crearon un segundo índice a partir de un volcado de Wikipedia de diciembre de 2016 y formularon 82 preguntas del tipo «¿Quién es el presidente de Perú?» sobre líderes mundiales que habían cambiado entre las dos fechas.
- Con el índice correspondiente, RAG acertó el 70 % con los líderes de 2016 y el 68 % con los de 2018.
- Con el índice equivocado, la precisión caía al 12 % (índice de 2018, líderes de 2016) y al 4 % (índice de 2016, líderes de 2018).
Así, el conocimiento puede actualizarse sustituyendo la biblioteca, sin más entrenamiento. Lo contrario también es cierto: una biblioteca desfasada produce respuestas desfasadas, y el modelo no tiene forma de notarlo.
Dónde falla
La recuperación no es automáticamente mejor que una búsqueda más sencilla. En los propios experimentos de ablación del artículo, un recuperador simple de solapamiento de palabras (BM25) funcionó mejor en FEVER, una tarea de verificación de hechos cuyas afirmaciones están cargadas de nombres propios. La recuperación aprendida ganó en las demás tareas y pesó más en la respuesta a preguntas de dominio abierto.
Encontrar un pasaje tampoco es lo mismo que usarlo. Un estudio de 2023 de Stanford, Berkeley y Samaya AI, «Lost in the Middle», evaluó modelos en preguntas y respuestas sobre varios documentos y en recuperación clave-valor. El rendimiento solía ser mayor cuando la información relevante estaba al principio o al final de la entrada, y caía de forma significativa cuando estaba en medio, incluso en modelos diseñados para entradas largas. Los modelos probados eran de 2023, así que conviene comprobar el efecto de la posición en cualquier modelo que se use de verdad.
Qué preguntar a un sistema RAG
- ¿Qué hay en la biblioteca y con datos de qué fecha? Los resultados de 2016 y 2018 muestran cuánto pesa la fecha.
- ¿Se pueden ver los pasajes? El artículo describe la memoria como legible y modificable por personas, porque está hecha de texto en bruto que cualquiera puede revisar y editar. Un sistema que oculta sus fuentes pierde esa ventaja.
- ¿Cómo se eligieron los pasajes? Un recuperador mejor, o uno sencillo, puede importar más que un generador más grande.
- ¿Dónde van los pasajes en el prompt? La posición puede cambiar el resultado.
Nuestra opinión: RAG traslada el problema del modelo a la biblioteca. Una respuesta no puede ser mejor que lo que se indexó y lo que se encontró, así que las preguntas útiles son sobre el índice, la búsqueda y la fecha, no solo sobre el modelo.
Preguntas y respuestas
¿Qué significa RAG?
Generación aumentada por recuperación: el modelo de lenguaje recibe pasajes extraídos de una colección externa de documentos y redacta su respuesta con ellos. El nombre procede de un artículo de 2020 de Lewis y sus colaboradores.
¿Es RAG lo mismo que el ajuste fino?
No. El ajuste fino cambia los parámetros de un modelo. En el trabajo original sobre RAG, el conocimiento del modelo podía actualizarse sustituyendo el índice de documentos, sin más entrenamiento.
¿La recuperación evita las alucinaciones?
En ese estudio las redujo: los evaluadores consideraron RAG más fiel a los hechos que la línea base BART en el 42,7 % de los pares, frente al 7,1 %. No las eliminó, y un índice desfasado o erróneo da respuestas erróneas.
¿Importa dónde se coloca el texto recuperado en el prompt?
Puede. Un estudio de 2023 halló que los modelos solían aprovechar mejor la información situada al principio o al final de una entrada larga que la situada en medio.
¿Estás de acuerdo?
Llévalo a Chevlume: escribe tu punto de vista, añade tus fuentes y deja que otros respondan. La alfa cerrada es solo con invitación.
Sigue leyendo
Qué hace y qué no hace el RLHF
Cómo funciona el aprendizaje por refuerzo con retroalimentación humana en InstructGPT, qué mejoró, el impuesto de alineación y qué queda sin resolver.
IA / DESCUBRIMIENTOEl Turco mecánico: el fraude de la máquina de ajedrez
Una máquina de ajedrez de 1770 que en realidad escondía a una persona. Cómo funcionaba el truco, a quién derrotó y cómo su nombre acabó en Amazon.
IA / DESCUBRIMIENTOELIZA, Deep Blue y AlphaGo
Tres máquinas que sorprendieron a sus autores: un guion de 1966 que solo reflejaba, un motor de ajedrez que calculaba y un jugador de go con su jugada 37.
Fuentes
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020) · arXiv (Facebook AI Research, UCL, NYU) · Consultado el
- Lost in the Middle: How Language Models Use Long Contexts (Liu et al., 2023) · arXiv (Stanford, UC Berkeley, Samaya AI) · Consultado el
Publicado el
Comenta en X