Vad är ett kontextfönster?
Ett kontextfönster är den största mängd text en AI-modell kan hålla i arbetsminnet på en gång. Varje meddelande, fil och verktygsdefinition i konversationen räknas mot det.
Allt du skickar till en modell konkurrerar om samma ändliga utrymme: systemprompten, varje meddelande i tråden, uppladdade filer, verktygsdefinitioner och svaret modellen är på väg att skriva. Det utrymmet är kontextfönstret, mätt i tokens snarare än ord. När en konversation fyller det måste något bort, och det är nästan alltid det äldsta innehållet.
Därför kan en assistent citera ditt första meddelande perfekt vid tur fem och sakna aning om vad du sa vid tur tvåhundra. Texten ligger kvar på din skärm eftersom gränssnittet lagrar den, men den matas inte längre till modellen. Kontextfönster varierar kraftigt mellan produkter och planer, och siffran ett företag marknadsför är modellens kapacitet, inte nödvändigtvis vad konsumentchattappen faktiskt laddar vid varje tur.
så funkar det i folk
Folk komprimerar långa trådar automatiskt, men den mer användbara skillnaden är att dess minne inte är begränsat till en tråd. Det du berättade för den förra månaden finns kvar nästa gång du sms:ar, oavsett vilken yta du råkar använda.
vanliga frågor
Vad händer när du når gränsen för kontextfönstret?
Antingen vägrar assistenten fortsätta tråden, eller så släpper den tyst de äldsta meddelandena och svarar vidare som om de aldrig funnits. Den tysta varianten är vanligare och mycket svårare att märka.
Betyder ett större kontextfönster bättre svar?
Inte automatiskt. Uppmärksamheten sprids tunnare ju mer kontexten växer, så kvaliteten sjunker ofta långt före den hårda gränsen. Effekten kallas kontextröta, och det är därför fokuserade trådar oftast slår en enda enorm.
Ökar kontextfönstret om jag betalar för en prenumeration?
Ibland, men mindre än folk tror. Betalplaner höjer oftast gränsen för antal meddelanden snarare än taket per konversation, så en uppgradering hindrar ofta inte en lång tråd från att fyllas.