Mi az a kontextusromlás?
A kontextusromlás azt jelenti, hogy az AI válaszainak minősége romlik, ahogy a beszélgetés hosszabb lesz. Azért történik, mert a modell figyelme egyre több tokenre oszlik szét, míg a korábbi utasítások végül elveszítik a hatásukat.
A context rot nem ugyanaz, mint amikor elfogy a hely. Jóval a kemény limit előtt beindul, mert a modell a friss tokeneket nagyobb súllyal veszi figyelembe, mint a távoliakat. Az első üzenetedben megadott utasítások technikailag még a kontextusban vannak, de alacsony jelentőséget kapnak, így a modell elolvassa őket, és gyakorlatilag figyelmen kívül hagyja.
A tünetek felismerhetők: egy formázási szabály, amit korán lefektettél, csendben megszűnik érvényesülni, egy megkötés, amit beállítottál, sérül, vagy az asszisztens újra megkérdez valamit, amire már válaszoltál. Az Anthropic a saját útmutatásában a hosszú Claude Code munkamenetekről írja le ezt a hatást, megjegyezve, hogy a teljesítmény romlik, ahogy a kontextus nő, mert a figyelem több token között oszlik meg, és a régebbi tartalom kezdi elvonni a figyelmet az aktuális feladattól.
A gyakorlati ellenintézkedések mind a újrahorgonyzás formái. Ismételd el az alapvető utasításokat körülbelül minden tizedik üzenetváltásnál, tedd a kritikus megkötéseket az üzeneted végére, ahol nagyobb súlyt kapnak, és oszd szét a valóban nem összetartozó feladatokat külön beszélgetésekbe, ahelyett hogy egy szálba zsúfolnád őket.
hogyan működik ez a folkban
A tömörítés segít a romlás ellen és a kapacitás kihasználásában is, mert a régi fordulók összefoglalása eltávolítja a zajt, amely hígította a figyelmet. A Folk védi a legújabb fordulókat és az eredeti keretezést, majd összenyomja a köztes részt.
gyakori kérdések
A kontextusromlás ugyanaz, mint a kontextuslimit elérése?
Nem. A limit elérése egy kemény határ, ahol a tartalom kiesik. A context rot egy fokozatos minőségromlás, ami jóval a limit előtt kezdődik, mert a figyelem eloszlik egy nagyobb beszélgetés során.
Hogyan javítsam meg az AI-t, ami már nem követi az utasításaimat?
Rögzítsd újra a fókuszt. Illessz be egy három-öt soros összefoglalót a legfontosabb döntésekről és megkötésekről a következő üzeneted elejére, és ismételd meg minden korábban beállított formázási szabályt. Ha a téma tényleg megváltozott, inkább kezdj egy új beszélgetést.
Mikor lesz túl hosszú egy AI-beszélgetés?
Nincs fix szám, de a minőség általában húsz-harminc érdemi váltás után kezd romlani. Jobb szabály a témára vonatkozik: amikor egy teljesen új feladatra váltasz, indíts új szálat.