Cos'è una finestra di contesto?
Una finestra di contesto è la quantità massima di testo che un modello di AI riesce a tenere nella memoria di lavoro in un dato momento: ogni messaggio, file e definizione di strumento nella conversazione conta.
Tutto quello che mandi a un modello si contende lo stesso spazio limitato: il prompt di sistema, ogni messaggio della chat, i file caricati, le definizioni degli strumenti e la risposta che il modello sta per scrivere. Quello spazio è la finestra di contesto, misurata in token e non in parole. Quando una conversazione la riempie, qualcosa deve sparire, e quasi sempre è il contenuto più vecchio.
Ecco perché un assistente può citarti alla perfezione il tuo primo messaggio al quinto scambio e non avere idea di cosa hai detto al duecentesimo. Il testo è ancora sul tuo schermo perché l'interfaccia lo conserva, ma non viene più passato al modello. Le finestre di contesto variano molto in base al prodotto e al piano, e il numero che un'azienda pubblicizza è la capacità del modello, non per forza quello che l'app di chat per i consumatori carica davvero a ogni scambio.
come funziona in folk
Folk compatta in automatico le chat lunghe, ma la differenza più utile è che la sua memoria non è legata a una singola chat. Quello che gli hai detto il mese scorso è ancora lì la prossima volta che gli scrivi, su qualunque piattaforma tu stia usando.
domande frequenti
Cosa succede quando raggiungi il limite della finestra di contesto?
O l'assistente si rifiuta di continuare la chat, o elimina in silenzio i messaggi più vecchi e continua a rispondere come se non fossero mai esistiti. La versione silenziosa è più comune e molto più difficile da notare.
Una finestra di contesto più grande significa risposte migliori?
Non per forza. L'attenzione si diluisce man mano che il contesto cresce, quindi la qualità spesso peggiora ben prima del limite vero e proprio. Questo effetto si chiama context rot, ed è il motivo per cui di solito più chat mirate funzionano meglio di una sola enorme.
Pagare un abbonamento aumenta la finestra di contesto?
A volte, ma meno di quanto si pensi. I piani a pagamento di solito alzano il limite di messaggi più che il tetto per singola conversazione, quindi passare a un piano superiore spesso non impedisce a una chat lunga di riempirsi.