RAG
RAG significa Generación Incrementada por Recuperación, una arquitectura de inteligencia artificial que combina la recuperación con el modelado generativo.
Definición
La Generación Incrementada por Recuperación (RAG) es un marco de inteligencia artificial híbrido que mejora un modelo generativo incorporando un sistema de recuperación externo para obtener información relevante en tiempo de ejecución. Cuando se recibe una consulta, el sistema busca en una base de conocimientos o corpus datos pertinentes contextualmente y alimenta esos resultados al modelo generativo para moldear su salida. Este enfoque basa las respuestas generadas en información factual o actualizada, reduciendo las alucinaciones y ampliando el conocimiento efectivo del modelo más allá de sus datos de entrenamiento. RAG se utiliza ampliamente en sistemas donde la precisión y la relevancia son críticas, como asistentes de búsqueda empresarial, asistentes de preguntas y respuestas, y flujos de trabajo de resumen de documentos. Separa el almacenamiento de conocimientos del componente generativo, permitiendo actualizaciones en la base de conocimientos sin necesidad de reentrenar el modelo principal.
Ventajas
- Mejora la precisión factual al basar la generación en fuentes de datos reales.
- Permite respuestas actualizadas sin reentrenar el modelo generativo.
- Reduce las alucinaciones comunes en las salidas de modelos LLM independientes.
- Escalable a grandes corpora de conocimiento mediante capas de recuperación eficientes.
- Integración flexible con diversos sistemas de búsqueda e indexación vectorial.
Desventajas
- Arquitecturalmente más complejo que los sistemas generativos simples.
- Los pasos de recuperación pueden agregar latencia a la generación de respuestas.
- La calidad depende del índice de recuperación y de la estrategia de fragmentación de documentos.
- Requiere mantener y actualizar bases de conocimiento externas.
- Sobrecarga de integración para bases de datos vectoriales o motores de búsqueda.
Casos de uso
- Chatbots de IA que responden con conocimiento específico de dominio actual.
- Asistentes de búsqueda empresarial que sintetizan documentos a demanda.
- Soporte automático para clientes que aprovecha bases de conocimiento internas.
- Herramientas de generación de contenido basadas en fuentes de datos específicas.
- Sistemas de resumen de documentos que utilizan corpora externos para contexto.