Ce este o fereastră de context?
O fereastră de context este cantitatea maximă de text pe care un model AI o poate ține în memoria de lucru simultan - fiecare mesaj, fișier și definiție de unealtă din conversație contează pentru ea.
Tot ce trimiți unui model concurează pentru același spațiu finit: promptul de sistem, fiecare mesaj din fir, fișierele încărcate, definițiile uneltelor și răspunsul pe care modelul e pe cale să-l scrie. Acel spațiu e fereastra de context, măsurată în tokeni, nu în cuvinte. Când o conversație o umple, ceva trebuie să plece, și aproape întotdeauna conținutul cel mai vechi.
De asta un asistent poate cita perfect primul tău mesaj la a cincea replică și să nu aibă nicio idee ce ai spus la a două suta. Textul e încă pe ecranul tău pentru că interfața îl stochează, dar nu mai este transmis modelului. Ferestrele de context variază mult de la produs la produs și de la plan la plan, iar numărul pe care îl promovează o companie este capacitatea modelului, nu neapărat ce încarcă de fapt aplicația de chat pentru consumatori la fiecare replică.
cum funcționează asta în folk
Folk compactează automat firele lungi, dar diferența mai utilă e că memoria sa nu e limitată la un fir. Ce i-ai spus luna trecută e încă disponibil data viitoare când îi scrii, pe orice suprafață folosești.
întrebări frecvente
Ce se întâmplă când atingi limita ferestrei de context?
Fie asistentul refuză să continue firul, fie renunță în tăcere la cele mai vechi mesaje și continuă să răspundă ca și cum nu ar fi existat niciodată. Versiunea silențioasă e mai comună și mult mai greu de observat.
O fereastră de context mai mare înseamnă răspunsuri mai bune?
Nu automat. Atenția se împrăștie mai subțire pe măsură ce contextul crește, așa că calitatea scade adesea cu mult înainte de limita dură. Acest efect se numește context rot și este motivul pentru care firele concentrate de obicei bat unul enorm.
Plata unui abonament crește fereastra de context?
Uneori, dar mai puțin decât se așteaptă lumea. Planurile plătite de obicei cresc plafonul de rată a mesajelor, nu plafonul per conversație, așa că trecerea la un plan superior adesea nu oprește un fir lung să se umple.