Ir al contenido principal
Contacto

Decisiones de IA Arquitectura y tecnología

RAG o fine-tuning: ¿qué necesita tu caso de uso empresarial?

Respuesta corta

Usa RAG cuando el modelo tenga que responder con conocimiento que cambia, respetar permisos de acceso o citar sus fuentes. Usa fine-tuning cuando el problema no sea lo que el modelo sabe, sino cómo se comporta: un formato, un tono, un vocabulario o una tarea acotada que debe ejecutar siempre igual. La mayoría de los casos de conocimiento empiezan por RAG; el fine-tuning llega después, encima, cuando la evaluación muestra un fallo de comportamiento que la recuperación y el prompt no resuelven.

Actualizado: · Thinkia

Las opciones

RAG

El modelo recupera en el momento de la consulta fragmentos relevantes de tus fuentes y responde apoyándose en ellos, sin tocar sus pesos.

Fine-tuning

El modelo se reentrena con un conjunto de datos curado para que un comportamiento, estilo o tarea concreta quede en sus pesos.

Comparativa

Criterio RAGFine-tuning
Qué cambia Lo que el modelo ve al responder: contexto inyectado desde tus documentos y sistemas. Cómo se comporta el modelo: formato, tono, terminología y patrones de la tarea aprendidos en el entrenamiento.
Frescura del dato Basta con actualizar el índice; un documento nuevo o corregido está disponible en la siguiente consulta. El conocimiento queda congelado al entrenar; un dato nuevo exige un nuevo dataset y un nuevo entrenamiento.
Control de acceso Puede filtrar la recuperación por los permisos del usuario: cada persona solo obtiene respuestas de lo que puede ver. Lo que se entrena queda al alcance de cualquier usuario del modelo; los permisos no se pueden aplicar dentro de los pesos.
Trazabilidad y citas Cada respuesta puede señalar el documento y el pasaje que ha usado, lo que hace viable la revisión y la auditoría. El modelo no puede decir de qué ejemplo de entrenamiento sale una respuesta; la trazabilidad depende de documentar el dataset.
Tiempo hasta valor Suele llegar antes a una primera versión útil: conectar fuentes, indexar, evaluar e iterar. Más lento: necesita un conjunto de entrenamiento limpio y representativo, entrenamientos y una evaluación sólida antes de salir.
Coste de mantenimiento Trabajo continuo en ingesta, troceado, calidad de la recuperación e higiene del índice. Trabajo continuo en datasets, reentrenar cuando cambia el modelo base o la tarea, y vigilar deriva y sobreajuste.
Fallo típico Se recupera un contexto equivocado o incompleto: la respuesta está bien escrita, pero apoyada en el pasaje que no era. Respuestas seguras sobre datos que el modelo nunca vio, o pérdida de capacidad general tras un entrenamiento muy estrecho.
Portabilidad entre modelos La capa de conocimiento no depende del modelo: puedes cambiar de LLM y conservar el índice. La inversión queda ligada a un modelo base concreto; cambiar de modelo suele obligar a reentrenar.
Encaje con AI Act y RGPD Los datos personales siguen en sus fuentes y se rectifican o suprimen allí; es más fácil atender derechos del RGPD y conservar registros. Los datos personales de un dataset de entrenamiento son difíciles de retirar después; modificar de forma sustancial un modelo puede acarrear obligaciones de proveedor (provider) según el AI Act: revisa tu rol.

Elige RAG cuando…

  • Las respuestas deben salir de documentos, políticas o registros internos que cambian en semanas o meses.
  • Distintos usuarios pueden ver información distinta y el sistema tiene que respetarlo.
  • Usuarios, auditores o reguladores necesitan ver la fuente de cada respuesta.
  • Quieres conservar la libertad de cambiar de modelo o de proveedor sin rehacer el trabajo.
  • El corpus incluye datos personales sujetos a los derechos de rectificación y supresión del RGPD.

Elige Fine-tuning cuando…

  • El modelo debe producir siempre la misma estructura o estilo y el prompt por sí solo no lo consigue con consistencia.
  • La tarea es estrecha, estable y bien definida: clasificar, extraer a un esquema, escribir con un estilo de dominio.
  • Necesitas que un modelo más pequeño, barato o rápido iguale a uno grande en una tarea concreta.
  • Tienes un dataset curado, representativo y con licencias en regla, y medios para evaluar el resultado.

Cuándo combinarlas

No son excluyentes. Un patrón habitual es RAG para los hechos y un ajuste ligero, o un modelo pequeño especializado, para el comportamiento: la recuperación aporta contexto actual, con permisos y citable, y el modelo ajustado lo convierte en el formato exacto que pide el proceso. Empieza por RAG y trabajo de prompt, mide contra un conjunto de evaluación fijo y añade fine-tuning solo cuando los errores que quedan sean de comportamiento y no de conocimiento que falta.

Errores típicos

  • Hacer fine-tuning para enseñar al modelo datos de la empresa que cambian, y descubrir que responde con la versión del trimestre pasado.
  • Tratar RAG como una base de datos vectorial más un prompt, sin invertir en ingesta, troceado, reranking y evaluación.
  • Comparar opciones sin un conjunto de evaluación fijo, de modo que la decisión depende de un puñado de demos.
  • Entrenar con datos personales o confidenciales sin base jurídica, sin reglas de conservación y sin forma de retirarlos.
  • Creer que el fine-tuning elimina las alucinaciones: cambia el comportamiento, no hace que el modelo sepa lo que nunca se le dio.

Cómo lo enfoca Thinkia

Partimos de la pregunta que el negocio necesita responder y de la evidencia que va a aceptar. En la mayoría de los casos de conocimiento eso apunta primero a la recuperación: Enterprise Knowledge AI conecta documentos, sistemas y datos en una capa gobernada que responde con el documento, el pasaje y la evidencia, y deja rastro de auditoría. Lo que decide la calidad es trabajo poco vistoso: elegir fuentes, ingesta, troceado, reranking y un conjunto de evaluación acordado con quienes son dueños del contenido.

Planteamos fine-tuning cuando la evaluación muestra un fallo de comportamiento que la recuperación y el prompt no cierran, o cuando un modelo pequeño especializado puede resolver una tarea acotada con calidad suficiente y menor coste. En ese caso el dataset se trata como un activo: con responsable, licencias, reglas de conservación y documentación, porque según el Reglamento Europeo de IA (AI Act) modificar un modelo puede cambiar tus obligaciones. Te ayudamos a revisar si actúas como proveedor (provider) o implantador (deployer); nuestra guía de gobierno de IA es orientación operativa, no asesoramiento legal.

Las dos opciones funcionan mejor sobre una plataforma agnóstica de modelo. Synapse mantiene el repositorio RAG en la infraestructura de la propia empresa, enruta cada tarea al modelo más adecuado y mide coste y adopción, de modo que la capa de conocimiento sobrevive a un cambio de modelo y la decisión se puede revisar con datos y no con opiniones.

Productos de Thinkia implicados

Soluciones de IA relacionadas

Preguntas frecuentes

¿El fine-tuning reduce las alucinaciones?

Por sí solo, no. El fine-tuning moldea cómo responde el modelo, pero no le da acceso a datos que nunca vio. Para reducir respuestas sin respaldo, ancla el modelo a tus fuentes con RAG, exige citas y mide el anclaje sobre un conjunto de evaluación.

¿RAG sale más barato que el fine-tuning?

Suele exigir menos esfuerzo inicial, porque no hay entrenamiento, pero tiene costes recurrentes de recuperación, indexado y prompts más largos. El fine-tuning cuesta más de preparar y de repetir, y puede abaratar la inferencia si permite usar un modelo más pequeño. Compara el coste total para tu volumen, no precios de catálogo.

¿Puedo hacer fine-tuning con documentos que contienen datos personales?

Solo con una base jurídica válida según el RGPD, una evaluación de impacto cuando proceda y un plan para atender los derechos de los interesados. Retirar datos personales de un modelo ya entrenado es difícil en la práctica; por eso el conocimiento con datos personales suele servirse mejor con RAG, donde se corrige o se suprime en origen.

¿Hacer fine-tuning nos convierte en proveedor según el AI Act?

Puede ocurrir. Modificar de forma sustancial un sistema o comercializarlo con tu nombre puede acarrear obligaciones de proveedor (provider), según el caso de uso y su nivel de riesgo. Contrasta tu caso con el texto del Reglamento, con el AI Act Service Desk de la Comisión y con asesoramiento jurídico cualificado.

Con ventanas de contexto tan largas, ¿sigue haciendo falta RAG?

Las ventanas largas ayudan, pero no resuelven permisos, frescura, coste por consulta ni la necesidad de mostrar qué fuente se ha usado. En la empresa, la recuperación sigue decidiendo qué entra en el contexto; el contexto largo permite que ese contexto sea más rico.

¿Cómo decidimos con evidencia y no por opinión?

Construye un conjunto de evaluación con preguntas reales, respuestas esperadas y fuentes, acordado con los dueños del contenido. Prueba primero con RAG, analiza los errores que quedan y añade fine-tuning solo si son de formato o comportamiento, no de contexto ausente o equivocado.

Decisiones relacionadas

Sectores donde aparece esta decisión

Términos clave

Artículos de Thinkia

Whitepapers

Fuentes

¿Tienes esta decisión encima de la mesa? Hablemos.

Habla con un experto en IA