¿Qué es la ventana de contexto?
Es el límite de información que un modelo puede tener disponible de forma directa durante un procesamiento. Se mide en tokens y no equivale a memoria permanente.
Una ventana de contexto (context window) es el límite de tokens que un modelo puede tener disponibles para procesar en una solicitud o durante una secuencia de generación. Según el modelo y la API, ese presupuesto puede repartirse entre instrucciones del sistema, historial de conversación, mensaje actual, documentos o resultados de herramientas y los tokens de salida que se van generando. La ventana define cuánto contexto puede considerar directamente el modelo en ese momento; no es memoria persistente ni garantiza que toda la información incluida se utilice con la misma eficacia. Cuando el contenido supera el límite, la aplicación debe rechazar, recortar, resumir, compactar o seleccionar qué conservar, según su implementación.
- Qué es una ventana de contexto
- Qué puede ocupar la ventana
- Cómo se mide y qué significa el límite
- Ventana de contexto, memoria, RAG y prompt
- Qué pasa cuando la ventana se llena
- Por qué más contexto no siempre es mejor
- Cómo gestionar una ventana de contexto
- Ejemplo práctico
- Errores frecuentes
- Preguntas frecuentes
- Fuentes y referencias
- Conceptos relacionados
Qué es una ventana de contexto
Una ventana de contexto es la capacidad máxima de contexto que un modelo puede procesar directamente en una solicitud o secuencia de generación. En los modelos de lenguaje suele expresarse en tokens.
La ventana funciona como un presupuesto finito de información disponible. Dentro de ese presupuesto pueden convivir instrucciones del sistema, mensajes anteriores, el pedido actual, ejemplos, documentos recuperados, resultados de herramientas y otros contenidos que la aplicación envía al modelo.
En modelos autoregresivos, los tokens que se van generando también pasan a formar parte de la secuencia considerada. Por eso algunas especificaciones presentan un límite total compartido entre entrada y salida, mientras que otras APIs publican además topes separados para cada una.
La idea clave: la ventana de contexto marca cuánto puede estar disponible para el modelo en ese procesamiento. No indica cuánto “sabe” el modelo, cuánto aprendió durante el entrenamiento ni cuánto recuerda de manera permanente.
Qué puede ocupar la ventana de contexto
Lo que consume contexto depende del producto y de la arquitectura, pero en una aplicación generativa suelen intervenir varias capas:
Instrucciones del sistema
Reglas, rol, restricciones y comportamiento que la aplicación configura antes del mensaje del usuario.
Historial de conversación
Mensajes anteriores que se vuelven a incluir para que el modelo pueda mantener continuidad. Una interfaz puede mostrar toda la conversación aunque no envíe literalmente cada turno en cada solicitud.
Entrada actual
El prompt o mensaje del usuario, junto con archivos, ejemplos, imágenes u otros datos que el sistema convierta a representaciones procesables.
Contexto recuperado o herramientas
Fragmentos obtenidos mediante RAG, resultados de búsquedas, bases de datos, funciones, APIs u otras herramientas pueden incorporarse a la entrada y consumir parte del presupuesto.
Salida generada
En una generación autoregresiva, cada token nuevo se agrega a la secuencia previa. Según el modelo y la API, esto reduce el espacio disponible dentro del límite total o está sujeto además a un máximo de salida específico.
Cómo se mide y qué significa el límite
La ventana de contexto suele expresarse en tokens: 8K, 32K, 128K, 1M u otros tamaños según el modelo. Esos números no deben traducirse a una cantidad fija de palabras porque la tokenización cambia entre modelos, idiomas y tipos de contenido.
| Concepto | Qué describe | Qué conviene revisar |
|---|---|---|
| Ventana de contexto máxima | Capacidad límite de la secuencia o contexto que el sistema admite. | Si entrada y salida comparten ese máximo y qué contenido computa dentro de él. |
| Tokens de entrada | Tokens enviados al modelo antes de generar la respuesta. | Sistema, historial, archivos, RAG, herramientas y overhead que la API pueda incorporar. |
| Máximo de salida | Cantidad máxima de tokens que una generación puede producir. | Puede ser menor que la ventana total y variar por modelo o endpoint. |
| Longitud de contexto | Término usado a veces como sinónimo de context window y, en otros documentos, para la longitud efectiva de la secuencia procesada. | La definición específica del proveedor o framework antes de comparar cifras. |
La especificación comercial de una ventana amplia tampoco implica que sea conveniente llenar siempre todo el espacio. El límite describe capacidad disponible, no una recomendación de uso.
Ventana de contexto, memoria, RAG y prompt no son lo mismo
Esta diferencia es especialmente importante en conversaciones largas: una interfaz puede conservar el historial completo en una base de datos, pero el modelo sólo recibe aquello que la aplicación decide enviar, resumir, recuperar o compactar dentro del presupuesto disponible.
Qué pasa cuando la ventana de contexto se llena
No existe una respuesta universal porque el comportamiento depende del modelo, la API y la aplicación. Cuando el contenido excede la capacidad, pueden ocurrir varias cosas:
Por eso una aplicación robusta no debería tratar la ventana como un contenedor que simplemente se llena hasta el máximo: necesita una política para decidir qué conservar, qué resumir y qué recuperar de nuevo.
Por qué una ventana más grande no siempre produce una respuesta mejor
Una ventana mayor permite poner más información a disposición del modelo, pero capacidad no equivale a uso efectivo. Si el contexto contiene ruido, contradicciones, duplicados o datos irrelevantes, aumentar su tamaño puede dificultar la selección de lo importante.
Además, investigaciones sobre modelos de contexto largo muestran que el rendimiento puede variar según la posición de la información relevante. El trabajo Lost in the Middle encontró degradaciones cuando datos necesarios estaban ubicados en el centro de contextos extensos, incluso en modelos diseñados para trabajar con secuencias largas.
También hay efectos operativos: más tokens de entrada implican más procesamiento durante la fase inicial de inferencia y, en servicios que facturan por tokens, pueden aumentar el costo. La relación exacta depende de la arquitectura, del proveedor y de las optimizaciones empleadas.
Más contexto no reemplaza mejor contexto. Una ventana amplia es una capacidad; la calidad depende de qué información entra, cómo está organizada y si el modelo puede recuperar y usar lo relevante.
Cómo gestionar bien una ventana de contexto
Medir con el tokenizador correcto
No estimar el límite sólo por palabras o caracteres. Para operaciones críticas, usar el conteo correspondiente al modelo o la API elegida.
Priorizar información relevante
Evitar enviar documentos completos por defecto cuando sólo una parte aporta evidencia útil para la tarea.
Reservar espacio para la salida
Si entrada y salida comparten presupuesto, llenar la ventana con input puede dejar menos margen para generar la respuesta necesaria.
Compactar historial con criterio
Resumir, estructurar estado y conservar decisiones relevantes puede ser mejor que reenviar una conversación completa indefinidamente.
Usar recuperación cuando corresponda
RAG y otras estrategias permiten traer al contexto sólo la información externa más pertinente en el momento en que se necesita.
Evaluar calidad, no sólo capacidad
Probar si el sistema encuentra y utiliza información importante en contextos largos. El máximo admitido por una ficha técnica no demuestra por sí solo un buen rendimiento en todas las posiciones.
Ejemplo simplificado de presupuesto de contexto
Supongamos una aplicación cuyo modelo admite un presupuesto total de contexto de 100.000 tokens. La cifra es deliberadamente ilustrativa:
5.000 tokens se usan en instrucciones del sistema y reglas de la aplicación.
25.000 tokens corresponden al historial de conversación que la aplicación decide conservar.
40.000 tokens provienen de documentos recuperados para responder la consulta.
5.000 tokens pertenecen al mensaje actual y otros datos de entrada.
Quedan 25.000 tokens de margen teórico dentro de ese presupuesto. La cantidad realmente disponible para salida dependerá de cómo la API defina y limite la generación.
El ejemplo muestra por qué no alcanza con mirar el tamaño nominal de la ventana: hay que entender qué ocupa el contexto y cómo reparte el proveedor el presupuesto.
Errores al interpretar una ventana de contexto
Confundir ventana de contexto con memoria permanente
El hecho de que algo haya aparecido antes en una conversación no garantiza que siga incluido en la siguiente solicitud.
Suponer que toda la ventana está disponible para el prompt
Instrucciones, historial, herramientas y salida pueden consumir parte del presupuesto. Además, algunas APIs fijan límites de salida separados.
Convertir tokens a palabras con una regla fija
La equivalencia depende del tokenizador, el idioma y el contenido. Para un límite real hay que contar con la codificación correspondiente.
Creer que una ventana más grande garantiza mejor razonamiento
Más capacidad permite incluir más información, pero la relevancia, la posición y la capacidad del modelo para usarla siguen condicionando el resultado.
Enviar todo “por las dudas”
Contexto redundante o irrelevante puede aumentar costo, latencia y dificultad para localizar la evidencia importante.
Confundir RAG con ampliar la ventana
RAG selecciona información externa para incorporarla al contexto. No cambia por sí mismo el máximo de tokens que el modelo puede procesar.
Preguntas frecuentes sobre la ventana de contexto
¿Qué es una ventana de contexto en IA?
Es el límite de tokens que un modelo puede tener disponibles para procesar en una solicitud o secuencia de generación. Ese presupuesto puede incluir instrucciones, historial, entrada actual, contexto recuperado y, según la API, tokens de salida.
¿La ventana de contexto se mide en palabras?
Normalmente se expresa en tokens, no en palabras. Como la tokenización depende del modelo y del idioma, una misma cantidad de palabras puede ocupar un número diferente de tokens.
¿La respuesta del modelo ocupa parte de la ventana de contexto?
En muchas arquitecturas y APIs, los tokens generados pasan a formar parte de la secuencia que el modelo considera y comparten el presupuesto total de contexto. Algunos servicios, sin embargo, publican límites separados de entrada y salida; hay que revisar la especificación concreta.
¿Ventana de contexto y memoria son lo mismo?
No. La ventana de contexto es la información disponible directamente para el modelo durante un procesamiento. La memoria persistente es un mecanismo externo o adicional que conserva información entre interacciones y debe volver a incorporarla cuando sea necesaria.
¿Qué pasa cuando se supera la ventana de contexto?
Depende de la aplicación y del proveedor: la solicitud puede rechazarse, truncarse o gestionarse mediante estrategias como eliminar información menos relevante, resumir, compactar historial o recuperar sólo fragmentos necesarios.
¿Una ventana de contexto más grande siempre mejora la respuesta?
No. Permite incluir más información, pero no garantiza que el modelo la use de forma uniforme ni que todo el contexto sea relevante. La selección, el orden y la calidad del contexto siguen siendo importantes.
Fuentes y referencias
1. Google Cloud. Generative AI glossary: context window.
2. Google for Developers. Machine Learning Glossary: Generative AI.
3. NVIDIA. NIM LLM Benchmarking: input, output and context length.
4. Microsoft Learn. LLM Fundamentals.
5. Microsoft Learn. Managing the context window.
6. Liu, N. F. et al. Lost in the Middle: How Language Models Use Long Contexts.