Ir al contenido principal

Glosario de IA Models & Architecture

¿Qué es la ventana de contexto de un LLM?

← Todos los términos del glosario
En pocas palabras

Cantidad máxima de texto, medida en tokens, que un modelo de lenguaje puede tener en cuenta en una sola petición, incluida su propia respuesta.

Explicación

La ventana de contexto es el máximo de entrada y salida, medido en tokens, que un modelo de lenguaje grande puede procesar en una petición. Cuenta todo lo que el modelo ve: instrucciones de sistema, historial de la conversación, documentos recuperados, resultados de herramientas y la respuesta que escribe. Una ventana mayor permite documentos y conversaciones más largos, pero sube el coste y la latencia, y los modelos no siempre usan igual de bien lo que está en medio de un texto largo que lo que está al principio o al final. Por eso importa tanto qué metes en la ventana como su tamaño.

Cómo funciona la ventana de contexto

Los modelos leen el texto como tokens, fragmentos de palabra cuya longitud depende del idioma y del tokenizador. Cada petición envía al modelo una secuencia de tokens, y la ventana es el techo de lo larga que puede ser esa secuencia más la respuesta generada.

El modelo no recuerda nada entre peticiones salvo lo que va en la ventana. En un chat, el historial se reenvía en cada turno; en un agente, los resultados de las herramientas se acumulan paso a paso. Cuando se llega al límite, hay que quitar, resumir o llevar contenido a un sistema de recuperación.

Más grande no siempre es mejor

  • El coste y la latencia suelen crecer con los tokens enviados.
  • La investigación muestra que los modelos usan mejor la información del principio y del final de un texto largo que la del medio.
  • El texto irrelevante en la ventana puede despistar al modelo y empeorar la respuesta.
  • Una ventana grande no sustituye al control de accesos: lo que metes en ella puede acabar en la respuesta.

Cómo trabajar dentro de los límites

Las técnicas habituales son la generación aumentada por recuperación (RAG), que trae solo los fragmentos relevantes; resumir los turnos antiguos de la conversación; recortar las salidas de las herramientas a lo que importa; y mantener cortas las instrucciones fijas. Decidir qué ve el modelo en cada paso es lo que hoy se llama ingeniería de contexto.

Preguntas frecuentes

¿Qué es un token en la ventana de contexto?

Un token es la unidad de texto que lee el modelo: a menudo un trozo de palabra, una palabra corta entera o un signo de puntuación. El número de tokens de un mismo texto cambia según el idioma y el tokenizador. Tanto el tamaño de la ventana como el precio de las API se expresan en tokens.

¿La ventana de contexto incluye la respuesta del modelo?

Sí, en la mayoría de modelos la ventana cubre la entrada y la salida generada. Los proveedores fijan además un máximo propio de tokens de salida. Si la entrada está cerca del límite, queda menos espacio para la respuesta.

¿Qué pasa si superas la ventana de contexto?

La API devuelve un error, o la aplicación descarta o resume contenido anterior para hacer sitio. En un chat puede parecer que el asistente ha olvidado el principio de la conversación. Un sistema bien diseñado gestiona esto de forma explícita en lugar de dejar que el texto se pierda sin avisar.

¿Una ventana de contexto grande sustituye al RAG?

En la mayoría de casos empresariales, no. Enviarlo todo es caro y lento, los permisos se siguen aplicando por usuario y la calidad puede bajar con entradas muy largas. Ventanas largas y RAG se complementan: la recuperación selecciona y la ventana contiene lo seleccionado.

¿De qué tamaño son hoy las ventanas de contexto?

Depende del modelo y cambia con cada versión. Los tamaños vigentes se publican en la documentación de cada proveedor, que es la referencia que debes consultar antes de diseñar un sistema en torno a un límite.

Guías de decisión que usan este término

Dónde aparece en Thinkia

Para seguir leyendo

Fuentes

Actualizado: 2026-10-21

¿Quieres ver cómo se aplica en tu organización?

Habla con un experto en IA