X'inhu context window?
Context window huwa l-ammont massimu ta' test li mudell tal-AI jista' jżomm fil-memorja tax-xogħol f'daqqa - kull messaġġ, fajl, u definizzjoni tal-għodda fil-konversazzjoni jgħoddu lejh.
Kull ma tibgħat lil mudell jikkompeti għall-istess spazju finit: is-system prompt, kull messaġġ fil-thread, fajls imtella', definizzjonijiet tal-għodda, u r-risposta li l-mudell wasal biex jikteb. Dak l-ispazju huwa l-context window, imkejjel f'tokens aktar milli fi kliem. Meta konversazzjoni timlih, xi ħaġa trid tmur, u kważi dejjem il-kontenut l-aktar qadim.
Huwa għalhekk li assistent jista' jikkwota l-ewwel messaġġ tiegħek perfettament fil-ħames turn u ma jkollu l-ebda idea x'għidt sa mument 200. It-test għadu fuq l-iskrin tiegħek għax l-interfaċċa taħżnu, imma m'għadux jiġi mgħoddi lill-mudell. Il-context windows ivarjaw ħafna skont il-prodott u l-pjan, u n-numru li kumpanija tirreklama huwa l-kapaċità tal-mudell, mhux neċessarjament dak li l-app tal-chat tal-konsumatur attwalment tgħabbi f'kull turn.
kif jaħdem dan fi folk
Folk jiġbor fil-qosor il-konversazzjonijiet twal awtomatikament. Il-vantaġġ hu li ma jillimitax dak li jiftakar għal konversazzjoni waħda. Dak li għedtlu x-xahar li għadda għadu disponibbli meta terġa’ tiktiblu, tkun fuq liema app tkun.
mistoqsijiet frekwenti
X'jiġri meta tilħaq il-limitu tal-context window?
Jew l-assistent jirrifjuta li jkompli l-thread, jew bil-kwiet jitlaq l-eqdem messaġġi u jibqa' jwieġeb bħallikieku qatt ma kienu hemm. Il-verżjoni silenzjuża hija aktar komuni u ħafna aktar diffiċli biex tinnotaha.
Context window akbar ifisser tweġibiet aħjar?
Mhux awtomatikament. L-attenzjoni tinfirex aktar rqiqa hekk kif il-kuntest jikber, allura l-kwalità spiss tonqos ħafna qabel il-limitu iebes. Dan l-effett jissejjaħ context rot, u huwa għaliex threads iffukati normalment jaqbżu thread wieħed enormi.
Jekk tħallas għal abbonament, il-context window jiżdied?
Xi drabi, imma inqas milli jistennew in-nies. Pjanijiet imħallsa tipikament jgħollu l-limiti tar-rata tal-messaġġi aktar milli l-limitu massimu tal-konversazzjoni, allura l-upgrade spiss ma jwaqqafx thread twil milli jimtela.