Qué es la ventana de contexto de un modelo de IA
La ventana de contexto es la cantidad de texto que un modelo de lenguaje «ve» en una sola petición: tu prompt, el historial del chat, los documentos cargados y la respuesta del modelo. Si cabe en una llamada a la API una base de código entera, un contrato largo o solo un chat breve depende del tamaño de la ventana. A continuación: qué es la ventana de contexto, cómo se mide en tokens y por qué es uno de los parámetros clave al elegir un modelo.
Definición en términos simples
La ventana de contexto (context window) es el número máximo de tokens que el modelo puede procesar en una petición. Un token no es una palabra ni un carácter: es un fragmento de texto tras la tokenización. En ruso e inglés, un token equivale a unos 3-4 caracteres o parte de una palabra; «programación» puede ocupar 2-3 tokens.
El modelo no «recuerda» sesiones anteriores por sí solo. Todo lo que sabe al responder es lo que pasaste en la petición actual dentro de la ventana. Si el diálogo o el documento supera el límite, se recortan los fragmentos antiguos o hay que comprimirlos con técnicas aparte (RAG, resumen, fragmentación).
Cómo funciona la ventana en la práctica
En una petición API típica, el contexto incluye:
- System prompt - instrucciones al modelo (rol, formato de respuesta, restricciones).
- Historial de mensajes - turnos anteriores de user y assistant en el chat.
- Adjuntos - texto de PDF, código del repositorio, fragmentos de base de conocimiento.
- Salida del modelo - en muchos modelos, la respuesta también cuenta para el límite total de una llamada.
El esquema es simple: input + output ≤ tamaño de la ventana de contexto (algunos modelos limitan input y output por separado, pero la lógica es la misma: hay un techo por llamada).
Ejemplo para ventana de 128K:
| Componente | Tamaño aproximado |
|---|---|
| System prompt | 500-2.000 tokens |
| Historial (20 mensajes) | 5.000-15.000 |
| Documento cargado | 80.000 |
| Respuesta del modelo | hasta 8.000-16.000 |
Si la suma supera el límite, la API devuelve error o la plataforma recorta automáticamente el inicio del historial - según el cliente.
Contexto de entrada y de salida
Los desarrolladores suelen confundir dos conceptos:
- Input context - cuántos tokens acepta el modelo (prompt + historial + archivos).
- Max output tokens - límite superior de longitud de respuesta por llamada (parámetro API aparte, p. ej.
max_tokens).
Un modelo con ventana de 1M puede aceptar casi un millón de tokens de entrada, pero la respuesta puede seguir limitada a, por ejemplo, 8K-64K tokens por llamada. Informes largos a veces requieren varias peticiones secuenciales o streaming con continuación.
En algunos planes, las peticiones long-context (por encima de un umbral, p. ej. 200K de input) cuestan más - reflejan mayor carga de inferencia.
Por qué importa una ventana de contexto grande
Un contexto grande ayuda cuando una petición debe mantener mucha información relacionada:
- Análisis de documentos - contratos, informes, investigaciones de decenas de páginas sin compresión previa.
- Trabajo con código - varios archivos del proyecto, stack trace e historial de cambios en un prompt.
- Diálogos largos - soporte y consultoría donde importa toda la conversación, no solo los últimos 10 mensajes.
- Escenarios agentic - un agente acumula observaciones, llamadas a herramientas y resultados intermedios en una sesión.
Una ventana pequeña (4K-32K) basta para tareas cortas: clasificación, extracción de campos de formulario, traducción de un párrafo, chatbot simple. Escenarios enterprise con documentos y código suelen apuntar a 128K o más.
Tamaños típicos en 2026
A mediados de 2026 el mercado se divide en varios niveles:
| Nivel | Tamaño de ventana | Modelos de ejemplo | Tareas típicas |
|---|---|---|---|
| Compactos | 8K-32K | Modelos locales ligeros, APIs antiguas | Chat, clasificación |
| Estándar | 128K-200K | GPT-5.5, Claude Sonnet 5, Gemini 3.1 Pro | Código, documentos, agentes |
| Ampliados | 1M-2M | GPT-5.6, Claude Fable 5, Gemini 3.5 Flash | Repos grandes, corpus |
El contexto crece más rápido que la longitud «útil»: un modelo puede aceptar técnicamente un millón de tokens, pero la calidad en la cola más larga puede bajar (efecto «lost in the middle» - el modelo usa peor la información del medio de contextos largos). Una ventana grande no sustituye una arquitectura bien pensada, sino que amplía capacidades.
Limitaciones y alternativas
Incluso con ventana de 2M, no todo debe ir en un solo prompt:
- Coste - el input se factura por tokens; un millón de tokens por petición encarece rápido la producción.
- Latencia - el contexto largo tarda más en GPU.
- Calidad - conviene aportar hechos relevantes de forma explícita, no «enterrarlos» en 500 páginas del medio.
Patrones útiles cuando la ventana es justa o para ahorrar:
- RAG (Retrieval-Augmented Generation) - buscar fragmentos relevantes en base vectorial e inyectar solo esos en el prompt.
- Resumen - comprimir mensajes antiguos o secciones del documento con otra llamada al modelo.
- Chunking - dividir texto en partes y agregar resultados.
- Ventana deslizante - solo los últimos N mensajes más un breve resumen del pasado en el historial.
En producción suele combinarse: RAG para hechos de la base de conocimiento + historial moderado + modelo 128K-1M para peticiones «pesadas».
Cómo elegir el tamaño de ventana según la tarea
| Tarea | Mínimo recomendado | Comentario |
|---|---|---|
| Bot FAQ, clasificación de intención | 8K-16K | Historial corto, documentos vía RAG |
| Copilot para un repositorio | 128K-1M | Depende del tamaño del codebase |
| Revisión legal / compliance | 200K+ | PDF largos, referencias cruzadas |
| Documentos multimodales | 1M+ | Texto + imágenes consumen más tokens |
Antes de elegir modelo, estima el volumen real de input: cuenta tokens de una petición típica (tiktoken, tokenizer de la API o count_tokens del proveedor) y deja 20-30% de margen para respuesta y crecimiento del historial.
Conclusión
La ventana de contexto es la «memoria de trabajo» del modelo de lenguaje para una petición. Se mide en tokens e incluye prompt, historial, adjuntos y a menudo espacio para la respuesta. Ventanas grandes (128K-2M) permiten analizar documentos y bases de código largas sin recortar constantemente, pero no reemplazan RAG, resumen y control de costes. Al elegir modelo, mira no solo la cifra de la ficha técnica, sino también calidad en contexto largo, tarifas long-context y el tamaño real de tus peticiones típicas.
Preguntas frecuentes
En qué se diferencia un token de una palabra?
Un token es una unidad de texto tras la tokenización del modelo. Una palabra puede ser uno o varios tokens; puntuación y espacios también cuentan. De media en ruso e inglés, 1000 tokens ≈ 750-900 palabras o 3000-4000 caracteres, pero depende del idioma y del modelo. Para estimar, usa el tokenizer del proveedor concreto, no el recuento de palabras de Word.
Qué pasa si el texto es más largo que la ventana de contexto?
Depende de la plataforma: la API puede devolver «context length exceeded», recortar el inicio del historial (primero los mensajes más antiguos) u ofrecer compresión. El modelo no «sigue leyendo» más allá de la ventana - la información fuera del límite no existe para él. Soluciones: RAG, resumen, fragmentación o modelo con ventana mayor.
Más contexto siempre significa mejores respuestas?
No. Una ventana grande da la posibilidad de pasar más datos, pero no garantiza usarlos todos igual de bien. En entradas muy largas suele bajar la precisión sobre hechos del medio, y suben coste y latencia. Mejor pasar contexto relevante (búsqueda o prompt estructurado) que todo el corpus «por si acaso».
Cómo calculo cuántos tokens ocupará mi documento?
Usa herramientas oficiales: tiktoken para modelos compatibles con OpenAI, Anthropic tokenizer, Google AI Studio para Gemini o count_tokens en el SDK del proveedor. Regla aproximada: 1 página de texto (≈500 palabras) ronda 650-800 tokens; código y tablas pueden dar más tokens por carácter por símbolos especiales.
Necesito un modelo de 1M tokens para un chatbot normal?
Para un chatbot típico con respuestas cortas y FAQ - no, bastan 32K-128K más RAG sobre base de conocimiento. Ventana 1M+ tiene sentido para análisis de PDF grandes, repositorios enteros, sesiones agentic largas o cuando no se puede dividir datos sin perder coherencia. Primero mide tamaños reales de petición en producción - a menudo 128K basta con la arquitectura adecuada.