Mikä on kontekstin rappeutuminen?
Kontekstin rappeutuminen tarkoittaa, että tekoälyn vastausten laatu heikkenee, kun keskustelu pitenee. Syynä on, että mallin huomio jakautuu yhä useammalle tokenille, kunnes aiemmat ohjeet menettävät vaikutusvaltansa.
Kontekstin rappeutuminen ei ole sama asia kuin tilan loppuminen. Se alkaa hyvissä ajoin ennen kovaa rajaa, koska malli painottaa tuoreita tokeneita enemmän kuin kaukaisia. Ohjeet, jotka asetat ensimmäisessä viestissäsi, ovat teknisesti edelleen kontekstissa, mutta niille annetaan matala painoarvo, joten malli lukee ne ja jättää ne käytännössä huomiotta.
Oireet on tunnistettavissa: aiemmin asettamaasi muotoilusääntöä ei enää hiljaa noudateta, asettamaasi rajoitusta rikotaan tai avustaja kysyy uudelleen jotain, mihin olet jo vastannut. Anthropic kuvaa ilmiötä omassa ohjeistuksessaan pitkistä Claude Code -sessioista ja huomauttaa, että suorituskyky heikkenee kontekstin kasvaessa, koska huomio jakautuu useammille tokeneille ja vanhempi sisältö alkaa häiritä nykyistä tehtävää.
Käytännön vastatoimet ovat kaikki uudelleenankkuroinnin muotoja. Toista ydinohjeet noin kymmenen vaihdon välein, aseta kriittiset rajoitukset viestisi loppuun, missä ne painavat enemmän, ja jaa aidosti toisiinsa liittymättömät tehtävät erillisiin keskusteluihin sen sijaan, että pinot ne yhteen ketjuun.
miten tämä toimii folkissa
Tiivistäminen auttaa sekä rappeutumiseen että kapasiteettiin, koska vanhentuneiden vuorojen yhteenveto poistaa kohinaa, joka laimensi huomiota. Folk suojaa uusimmat vuorot ja alkuperäisen kehyksen ja pakkaa sitten sen, mikä on niiden välissä.
usein kysytyt
Onko kontekstin rappeutuminen sama asia kuin kontekstirajan saavuttaminen?
Ei. Rajan saavuttaminen on kova raja, jossa sisältöä putoaa pois. Kontekstin rappeutuminen on asteittainen laadun lasku, joka alkaa paljon ennen rajaa, kun huomio ohenee isommassa keskustelussa.
Miten korjaan tekoälyn, joka ei enää noudata ohjeitani?
Ankkuroi uudelleen. Liitä kolmen tai viiden rivin yhteenveto keskeisistä päätöksistä ja rajoituksista seuraavan viestisi alkuun ja toista aiemmin asettamasi muotoilusääntö. Jos aihe on oikeasti vaihtunut, aloita sen sijaan uusi keskustelu.
Kuinka pitkä on liian pitkä yhdelle tekoälykeskustelulle?
Ei ole kiinteää lukua, mutta laatu alkaa yleensä heiketä jossain kahdenkymmenen tai kolmenkymmenen merkittävän viestinvaihdon jälkeen. Parempi sääntö on aihekohtainen: kun siirryt aidosti uuteen tehtävään, aloita uusi ketju.