¿Qué es una ventana de contexto?
Una ventana de contexto es la cantidad máxima de texto que un modelo de IA puede mantener en su memoria de trabajo a la vez. Cada mensaje, archivo y definición de herramienta de la conversación cuenta para ese límite.
Todo lo que le mandas a un modelo compite por el mismo espacio limitado: el prompt del sistema, cada mensaje del hilo, los archivos que subes, las definiciones de herramientas y la respuesta que el modelo está por escribir. Ese espacio es la ventana de contexto, y se mide en tokens, no en palabras. Cuando una conversación lo llena, algo tiene que salir, y casi siempre es lo más antiguo.
Por eso un asistente puede citar tu primer mensaje a la perfección en el turno cinco y no tener idea de lo que dijiste para el turno doscientos. El texto sigue en tu pantalla porque la interfaz lo guarda, pero ya no se le pasa al modelo. Las ventanas de contexto varían mucho según el producto y el plan, y el número que anuncia una empresa es la capacidad del modelo, no necesariamente lo que la app de chat para consumidores carga en cada turno.
cómo funciona esto en folk
Folk compacta los hilos largos automáticamente, pero la diferencia más útil es que su memoria no está limitada a un hilo. Lo que le contaste el mes pasado sigue disponible la próxima vez que le escribas, desde donde sea que lo uses.
preguntas frecuentes
¿Qué pasa cuando llegas al límite de la ventana de contexto?
O el asistente se niega a seguir con el hilo, o borra en silencio los mensajes más antiguos y sigue respondiendo como si nunca hubieran existido. La versión silenciosa es más común y mucho más difícil de notar.
¿Una ventana de contexto más grande significa mejores respuestas?
No necesariamente. La atención se dispersa a medida que crece el contexto, así que la calidad suele bajar mucho antes del límite real. Este efecto se llama context rot (deterioro del contexto), y por eso los hilos enfocados suelen funcionar mejor que uno gigante.
¿Pagar una suscripción aumenta la ventana de contexto?
A veces, pero menos de lo que la gente cree. Los planes de pago suelen subir el límite de mensajes, no el tope por conversación, así que pagar más muchas veces no evita que un hilo largo se llene.