RAG o fine-tuning: cuál necesita tu empresa

El problema que intentan resolver

Un modelo de lenguaje general no conoce tus precios, tus políticas ni tus documentos internos. Para que responda con esa información hay dos caminos principales: darle los datos en el momento de la consulta (RAG) o ajustar el modelo con ejemplos (fine-tuning).

Qué es RAG

RAG significa generación aumentada por recuperación. Cuando alguien pregunta, el sistema busca en tus documentos los fragmentos más relevantes, usando embeddings, y se los entrega al modelo junto con la pregunta para que responda a partir de ellos.

Ventajas. Puedes actualizar la información cambiando un documento, sin volver a entrenar nada. Puedes mostrar de qué fuente salió cada respuesta. Ayuda a reducir las alucinaciones cuando se le pide responder solo con lo encontrado.

Límites. Si los documentos están desordenados o desactualizados, las respuestas también. Y la búsqueda puede traer fragmentos poco relevantes si no se configura bien.

Qué es fine-tuning

El fine-tuning consiste en ajustar un modelo con ejemplos propios de entradas y salidas esperadas, para que aprenda un estilo, un formato o una tarea específica.

Ventajas. Puede lograr un tono y un formato muy consistentes, y mejorar en tareas repetitivas y acotadas, como clasificar o extraer datos con un formato fijo.

Límites. Requiere ejemplos de calidad y esfuerzo para prepararlos. Si la información cambia, hay que reajustar. Y no es la mejor forma de «enseñarle» datos que cambian seguido ni de citar fuentes.

Cómo decidir

• Responder con documentos propios que se actualizan: RAG.
• Citar la fuente de cada respuesta: RAG.
• Un estilo o formato muy específico y constante: fine-tuning.
• Una tarea repetitiva y acotada con muchos ejemplos: fine-tuning.
• Ambas cosas: RAG para el conocimiento y fine-tuning para el estilo.

Antes de cualquiera de los dos, prueba lo más simple: un buen prompt con instrucciones claras y ejemplos. A menudo resuelve más de lo que se espera.

Qué preguntarle a un proveedor

• ¿Por qué recomienda RAG, fine-tuning o ambos para mi caso?
• ¿Cómo prepara y actualiza mis documentos?
• ¿Cómo mide la calidad de las respuestas y cada cuánto la revisa?
• ¿Cómo evita que el modelo invente respuestas fuera de mis documentos?
• ¿Dónde se guardan mis datos y se usan para entrenar modelos de terceros?

Puedes comparar empresas de modelos de lenguaje y RAG en el directorio, y leer cómo preguntar antes de contratar en la guía qué preguntarle a una agencia de IA.

Preguntas frecuentes

¿Puedo usar RAG sin programar?

Hay herramientas que lo permiten con poca programación, pero un resultado confiable requiere decisiones sobre cómo dividir los documentos, buscar y evaluar. Para un caso de cliente final, suele convenir un proveedor.

¿RAG elimina por completo los errores del modelo?

No. Los reduce, pero el modelo aún puede equivocarse. Por eso se recomienda limitar de qué puede hablar, mostrar las fuentes y derivar a una persona cuando no está seguro.

¿El fine-tuning sirve para que el modelo aprenda mis datos?

No es lo más recomendable. Sirve mejor para estilo, formato y tareas acotadas. Para que use información que cambia, RAG es más práctico.

¿Cuál es más barato?

Depende del volumen, del modelo y del trabajo de preparación. Pide a cada proveedor que explique cómo se compone el costo, incluido el mantenimiento, y compara con el mismo brief.