IA generativa en la prácticaPara profundizarConcepto técnico
Ventana de contexto
Context window · También: longitud de contexto, context length
Qué significa
Cantidad máxima de información, medida en tokens, que un modelo de lenguaje puede tener en cuenta a la vez: incluye las instrucciones, la conversación previa, los documentos adjuntos y la propia respuesta. Lo que queda fuera de esa ventana no se considera al generar el texto.
Un ejemplo
Ejemplo ilustrativo: tras una conversación muy larga, un asistente deja de respetar una indicación que se dio al principio, como «responde siempre en tono formal». Esa instrucción puede haber quedado fuera de la ventana de contexto.
Por qué importa
Explica por qué conviene repetir indicaciones clave, dividir documentos largos y no asumir que la herramienta ha leído todo lo que le dimos.
Distinción útil
La ventana de contexto es una memoria temporal de la conversación; no es lo mismo que el conocimiento aprendido durante el entrenamiento.
Fuentes
- Machine Learning Glossary(se abre en una pestaña nueva)Google for Developers — Entrada «context window»