Glosario de IA Models & Architecture
¿Qué es Destilación de conocimiento?
Destilación de conocimiento (Knowledge Distillation)
← Todos los términos del glosarioEntrenar un modelo pequeño imitando a uno mayor (profesor).
Explicación
La destilación transfiere comportamiento de una red ‘profesor’ a un ‘alumno’ compacto, reduciendo coste y latencia en despliegue. Se combina con cuantización y SLM para asistentes eficientes.