Kontekst pəncərəsi nədir?
Kontekst pəncərəsi AI modelinin iş yaddaşında eyni anda saxlaya biləcəyi maksimum mətn miqdarıdır - söhbətdəki hər mesaj, fayl və alət tərifi buna daxildir.
Modelə göndərdiyin hər şey eyni məhdud yer üçün rəqabət aparır: sistem promptu, mövzudakı hər mesaj, yüklənmiş fayllar, alət tərifləri və modelin yazmaq üzrə olduğu cavab. Bu yer kontekst pəncərəsidir, sözlərlə deyil, tokenlərlə ölçülür. Söhbət onu doldurduqda, nəyinsə getməsi lazımdır və bu, demək olar ki, həmişə ən köhnə məzmundur.
Buna görə də köməkçi beşinci növbədə ilk mesajını mükəmməl sitat gətirə bilir, amma iki yüzüncü növbədə nə dediyini heç bilmir. Mətn hələ də ekranındadır, çünki interfeys onu saxlayır, lakin artıq modelə ötürülmür. Kontekst pəncərələri məhsula və plana görə çox dəyişir və şirkətin reklam etdiyi rəqəm modelin tutumudur, mütləq istehlakçı söhbət tətbiqinin hər növbədə faktiki yüklədiyi deyil.
bu folk-da necə işləyir
Folk uzun threadləri avtomatik kompaktlaşdırır, lakin daha faydalı fərq ondadır ki, onun yaddaşı bir thread ilə məhdudlaşmır. Keçən ay ona dediklərin, növbəti dəfə yazanda, hansı platformada olursa olsun, hələ də mövcuddur.
tez-tez soruşulanlar
Kontekst pəncərəsi limitinə çatanda nə olur?
Ya köməkçi söhbəti davam etdirməkdən imtina edir, ya da ən köhnə mesajları səssizcə atır və onlar heç olmamış kimi cavab verməyə davam edir. Səssiz versiya daha çox yayılıb və fərqinə varmaq daha çətindir.
Daha böyük kontekst pəncərəsi daha yaxşı cavablar deməkdirmi?
Avtomatik deyil. Diqqət kontekst böyüdükcə daha da seyrəlir, buna görə keyfiyyət çox vaxt sərt limitdən xeyli əvvəl aşağı düşür. Bu effekt kontekst çürüməsi adlanır və buna görə fokuslanmış mövzular adətən bir nəhəng mövzudan daha yaxşıdır.
Abunəliyə pul ödəmək kontekst pəncərəsini artırır?
Bəzən, amma insanların gözlədiyindən az. Ödənişli planlar adətən hər söhbət üçün üst həddi deyil, mesaj göndərmə limitlərini artırır, buna görə də yüksəltmə çox vaxt uzun bir söhbətin dolmasının qarşısını almır.