Hvað er samhengisgluggi?
Samhengisgluggi er hámarksmagn texta sem AI líkan getur haldið í vinnsluminni í einu. Hver skilaboð, skrá og verkfæriskilgreining í samtalinu telur með.
Allt sem þú sendir til líkans keppir um sama takmarkaða pláss: kerfiskvaðningin, hver skilaboð í þræðinum, upphlaðnar skrár, verkfæriskilgreiningar og svarið sem líkanið er að fara að skrifa. Það pláss er samhengisglugginn, mældur í táknum frekar en orðum. Þegar samtal fyllir hann, verður eitthvað að víkja, og það er næstum alltaf elsta innihaldið.
Þess vegna getur aðstoðarmaður vitnað í fyrsta skilaboðin þín fullkomlega á fimmta snúningi og hefur ekki hugmynd um hvað þú sagðir á tvöhundraðasta. Textinn er enn á skjánum þínum vegna þess að viðmótið geymir hann, en hann er ekki lengur sendur inn í módelið. Samhengisgluggar eru mjög mismunandi eftir vöru og áskrift, og talan sem fyrirtæki auglýsir er getu módelsins, ekki endilega það sem neytendaspjallforritið hleður í raun á hverjum snúningi.
hvernig þetta virkar í folk
Folk þjappar löngum þráðum sjálfkrafa, en gagnlegri munurinn er að minnið þess er ekki bundið við þráð. Það sem þú sagðir því í síðasta mánuði er enn tiltækt næst þegar þú sendir skeyti, á hvaða vettvangi sem þú ert að nota.
algengar spurningar
Hvað gerist þegar þú nærð mörkum samhengisgluggans?
Annaðhvort neitar aðstoðarmaðurinn að halda þræðinum áfram, eða hann sleppir hljóðlega elstu skilaboðunum og heldur áfram að svara eins og þau hafi aldrei verið þar. Hljóðláta útgáfan er algengari og miklu erfiðari að taka eftir.
Þýðir stærri samhengisgluggi betri svör?
Ekki sjálfkrafa. Athyglin dreifist þynnra eftir því sem samhengið stækkar, svo gæðin versna oft löngu fyrir harða takmörkin. Þetta fyrirbæri kallast context rot, og þess vegna vinna einbeittir þræðir yfirleitt yfir einn risastóran.
Aukar það samhengisgluggann að borga fyrir áskrift?
Stundum, en minna en fólk býst við. Greiddir pakkar hækka yfirleitt skilaboðaþak en ekki þakið á hverri samræðu, svo uppfærsla kemur oft ekki í veg fyrir að langur þráður fyllist.