Bağlam çürümesi nedir?
Bağlam çürümesi, konuşma uzadıkça yapay zeka cevap kalitesindeki düşüştür. Modelin dikkati daha fazla token'a yayılır ve sonunda önceki talimatlar etkisini kaybeder.
Bağlam çürümesi yer kalmamasıyla aynı şey değil. Katı sınırdan çok önce başlar, çünkü bir model yakın token'lara uzaktakilerden daha çok ağırlık verir. İlk mesajında koyduğun talimatlar teknik olarak hâlâ bağlamda ama düşük önem verilir, model onları okur ve fiilen yok sayar.
Belirtiler tanıdık: başta koyduğun bir biçim kuralı sessizce uygulanmaz olur, koyduğun bir kısıt çiğnenir ya da asistan zaten cevapladığın bir şeyi tekrar sorar. Anthropic bu etkiyi uzun Claude Code oturumları hakkındaki kendi rehberinde anlatır ve bağlam büyüdükçe performansın düştüğünü, çünkü dikkatin daha fazla token'a yayıldığını ve eski içeriğin mevcut görevden dikkati dağıtmaya başladığını belirtir.
Pratik karşı önlemlerin hepsi yeniden sabitleme biçimleri. Temel talimatları her on alışverişte bir yeniden söyle, kritik kısıtları mesajının sonuna yakın koy, orada daha çok ağırlık taşırlar ve gerçekten ilgisiz görevleri tek bir konuda yığmak yerine ayrı konuşmalara böl.
bu folk'ta nasıl çalışır
Sıkıştırma çürümeye de kapasiteye de yardım eder, çünkü eski turları özetlemek dikkati sulandıran gürültüyü kaldırır. Folk en yeni turları ve özgün çerçeveyi korur, aradakini sıkıştırır.
sık sorulanlar
Bağlam çürümesi bağlam sınırına çarpmakla aynı şey mi?
Hayır. Sınıra çarpmak içeriğin atıldığı katı bir sınırdır. Bağlam çürümesi, sınırdan çok önce başlayan, dikkatin daha büyük bir konuşmaya yayılmasıyla oluşan yavaş bir kalite düşüşüdür.
Talimatlarımı izlemeyi bırakan bir yapay zekayı nasıl düzeltirim?
Yeniden sabitle. Bir sonraki mesajının başına temel kararların ve kısıtların üç ila beş satırlık bir özetini yapıştır ve daha önce koyduğun biçim kurallarını tekrar söyle. Konu gerçekten değiştiyse bunun yerine yeni bir konuşma başlat.
Bir yapay zeka konuşması için ne kadar uzun çok uzundur?
Sabit bir sayı yok ama kalite genelde yirmi otuz kayda değer alışverişten sonra bir yerde kaymaya başlar. Daha iyi kural konuyla ilgili: gerçekten yeni bir göreve geçince yeni bir konu başlat.