Què és el deteriorament del context?
El deteriorament del context és la pèrdua de qualitat de les respostes de la IA a mesura que una conversa es fa més llarga, causada perquè l'atenció del model es reparteix entre més tokens fins que les instruccions inicials perden influència.
La podridura de context no és el mateix que quedar-se sense espai. Apareix molt abans del límit dur, perquè un model dona més pes als tokens recents que als llunyans. Les instruccions que poses al primer missatge tècnicament encara són al context, però se'ls assigna una rellevància baixa, així que el model les llegeix i, efectivament, les ignora.
Els símptomes són recognoscibles: una regla de format que vas establir al principi deixa de seguir-se sense fer soroll, una restricció que vas posar s'incompleix, o l'assistent et torna a preguntar una cosa que ja havies respost. Anthropic descriu aquest efecte a la seva pròpia guia sobre sessions llargues de Claude Code, i assenyala que el rendiment empitjora a mesura que creix el context perquè l'atenció es reparteix entre més tokens i el contingut antic comença a distreure de la tasca actual.
Les contramesures pràctiques són totes formes de reancoratge. Repeteix les instruccions bàsiques cada deu intercanvis aproximadament, posa les restriccions crítiques cap al final del missatge, on tenen més pes, i divideix les tasques realment no relacionades en converses separades en lloc d'apilar-les en un sol fil.
com funciona això a folk
La compactació ajuda amb el deteriorament i també amb la capacitat, perquè resumir torns obsolets elimina el soroll que diluïa l'atenció. Folk protegeix els torns més nous i l'enquadrament original, i després comprimeix el que hi ha al mig.
preguntes freqüents
El deteriorament del context és el mateix que arribar al límit de context?
No. Arribar al límit és una frontera dura on es descarta contingut. El context rot és una pèrdua gradual de qualitat que comença molt abans del límit, causada perquè l'atenció es dilueix en una conversa més gran.
Com arreglo una IA que ha deixat de seguir les meves instruccions?
Torna a ancorar. Enganxa un resum de tres a cinc línies de les decisions i restriccions clau a la part superior del teu proper missatge, i torna a dir qualsevol regla de format que hagis establert abans. Si el tema ha canviat de debò, comença una conversa nova.
Quant és massa llarg per a una conversa amb IA?
No hi ha un nombre fix, però la qualitat normalment comença a baixar després d'unes vint o trenta interaccions substancials. Una regla millor és temàtica: quan passes a una tasca realment nova, comença un fil nou.