¿Qué es el test-time compute?

Explicación

Históricamente, mejorar el rendimiento de la IA pasaba por usar modelos más grandes y más cálculo durante el preentrenamiento. El test-time compute traslada este esfuerzo a la fase de inferencia, cuando el modelo ya está funcionando. Al dedicar más tiempo y recursos a una consulta concreta, los modelos de razonamiento pueden pensar el problema, explorar varios caminos, comprobar su propia lógica y corregir errores antes de responder. Este enfoque, popularizado por modelos como la serie o1 de OpenAI, permite que modelos más pequeños resuelvan tareas muy complejas que antes exigían una escala masiva de preentrenamiento.

Cómo funciona el test-time compute

El modelo divide una instrucción compleja en una secuencia de pasos lógicos más pequeños y manejables. Genera múltiples caminos posibles para resolver el problema, en lugar de limitarse a predecir la siguiente palabra más probable. Evalúa sus propios resultados intermedios, descarta razonamientos erróneos y retrocede cuando es necesario. Cuando verifica que un camino lleva a la solución, emite la respuesta final y oculta o resume el proceso interno.

Preentrenamiento frente a escalado en inferencia

Durante años, el sector confió en las leyes de escalado del preentrenamiento: alimentar a modelos más grandes con mucha más cantidad de datos y cálculo para hacerlos más inteligentes. Esto exige enormes centros de datos funcionando durante largos periodos. El test-time compute introduce una nueva ley de escalado en la inferencia. En lugar de construir un modelo fundamentalmente mayor, los desarrolladores pueden asignar más tiempo de procesamiento a un modelo existente en el instante exacto en que un usuario hace una pregunta difícil. Esto permite cambiar latencia por precisión, gastando más recursos solo cuando la complejidad de la tarea lo requiere.

Cuándo tiene sentido

Este enfoque tiene sentido cuando la tarea exige lógica profunda, matemáticas, código o resolución de problemas en varios pasos. La precisión y el rigor deben ser más importantes que obtener una respuesta inmediata. Es ideal si la organización quiere usar un modelo más pequeño y eficiente que rinda por encima de sus posibilidades al pensar más tiempo en las consultas difíciles. Además, los flujos de trabajo deben tolerar tiempos de espera variables, ya que el modelo tarda más en contestar a las preguntas complejas.

Preguntas frecuentes

Para seguir leyendo

• Qué es la computación adaptativa y por qué es importante para la eficiencia de los LLM
• Técnicas de inferencia avanzadas: el futuro del rendimiento de los LLM

Términos relacionados

• Inferencia Fase en la que un modelo ya entrenado se usa para producir resultados, como una predicción, una clasificación o un texto, a partir de entradas nuevas.
• Adaptación de Dominio Ajustar un modelo de IA de propósito general para que funcione bien en un campo especializado, como el legal, el sanitario o el asegurador, con su lenguaje y sus reglas.
• Agenda del agente El plan vivo de un agente de IA: los próximos pasos en orden, las subtareas abiertas, lo bloqueado y los puntos de control hacia un objetivo.
• Agente IA Software que persigue un objetivo decidiendo sus propios pasos, usando herramientas y datos, y actuando sobre sistemas con poca intervención humana.
• Alucinación Cuando un modelo de lenguaje produce información que suena verosímil pero es falsa, inventada o no está respaldada por sus fuentes.
• Aprendizaje Few-Shot Conseguir que un modelo haga una tarea a partir de muy pocos ejemplos, algo que los modelos de lenguaje grandes logran leyendo esos ejemplos en el prompt.