Какво е контекстен прозорец?
Контекстният прозорец е максималното количество текст, което един AI модел може да държи в работната си памет наведнъж. Всяко съобщение, файл и дефиниция на инструмент в разговора се броят към него.
Всичко, което изпращаш на модел, се състезава за едно и също ограничено пространство: системният промпт, всяко съобщение в нишката, качените файлове, дефинициите на инструменти и отговорът, който моделът ще напише. Това пространство е контекстният прозорец, измерен в токени, не в думи. Когато разговорът го запълни, нещо трябва да излезе и почти винаги това е най-старото съдържание.
Ето защо асистентът може да цитира първото ти съобщение перфектно на петия ход и да няма представа какво си казал на двестатия. Текстът все още е на екрана ти, защото интерфейсът го съхранява, но вече не се подава на модела. Контекстните прозорци варират значително според продукта и плана, а числото, което компанията рекламира, е капацитетът на модела, а не непременно това, което потребителското чат приложение всъщност зарежда на всеки ход.
как работи това във folk
Folk компактира дълги нишки автоматично, но по-полезната разлика е, че паметта му не е ограничена до нишка. Това, което си му казал миналия месец, все още е налично следващия път, когато пишеш, на каквато и повърхност да използваш.
често задавани
Какво се случва, когато достигнеш лимита на контекстния прозорец?
Или асистентът отказва да продължи нишката, или тихо изхвърля най-старите съобщения и продължава да отговаря, сякаш никога не са били там. Тихата версия е по-често срещана и много по-трудна за забелязване.
Означава ли по-голям контекстен прозорец по-добри отговори?
Не автоматично. Вниманието се разпръсква по-тънко с нарастването на контекста, така че качеството често се влошава много преди твърдия лимит. Този ефект се нарича context rot и затова фокусираните нишки обикновено побеждават една огромна.
Плащането на абонамент увеличава ли контекстния прозорец?
Понякога, но по-рядко, отколкото хората очакват. Платените планове обикновено вдигат лимита за съобщения, а не тавана на разговор, така че надграждането често не спира дълга нишка да се запълни.