Bağlam penceresi nedir?
Bağlam penceresi, bir yapay zeka modelinin çalışma hafızasında aynı anda tutabileceği en fazla metin miktarıdır. Konuşmadaki her mesaj, dosya ve araç tanımı buna sayılır.
Bir modele gönderdiğin her şey aynı sınırlı alan için yarışır: sistem istemi, konudaki her mesaj, yüklenen dosyalar, araç tanımları ve modelin yazmak üzere olduğu cevap. Bu alan, kelimeyle değil token ile ölçülen bağlam penceresidir. Bir konuşma onu doldurduğunda bir şey gitmek zorundadır ve bu hemen hemen her zaman en eski içeriktir.
Bu yüzden bir asistan ilk mesajını beşinci turda mükemmel alıntılarken iki yüzüncü turda ne dediğini hiç bilmeyebilir. Arayüz sakladığı için metin hâlâ ekranında ama artık modele beslenmiyor. Bağlam pencereleri ürüne ve plana göre çok değişir ve bir şirketin duyurduğu sayı modelin kapasitesidir, tüketici sohbet uygulamasının her turda gerçekten yüklediği olmak zorunda değil.
bu folk'ta nasıl çalışır
Folk uzun konuları otomatik sıkıştırır ama daha işe yarar fark, hafızasının bir konuyla sınırlı olmaması. Geçen ay ona söylediklerin, hangi yüzeyi kullanıyor olursan ol, bir dahaki sefere yazdığında hâlâ elinde.
sık sorulanlar
Bağlam penceresi sınırına ulaşınca ne olur?
Ya asistan konuya devam etmeyi reddeder ya da en eski mesajları sessizce bırakır ve sanki hiç yokmuş gibi cevap vermeye devam eder. Sessiz olanı daha yaygın ve fark etmesi çok daha zor.
Daha büyük bir bağlam penceresi daha iyi cevaplar demek mi?
Otomatik olarak değil. Bağlam büyüdükçe dikkat daha ince yayılır, bu yüzden kalite çoğu zaman katı sınıra çok önce düşer. Bu etkiye bağlam çürümesi denir ve odaklı konuların genelde tek devasa bir konudan iyi çıkmasının sebebi budur.
Abonelik ödemek bağlam penceresini artırır mı?
Bazen, ama insanların beklediğinden az. Ücretli planlar genelde konuşma başına tavanı değil mesaj hız sınırlarını yükseltir, bu yüzden yükseltmek uzun bir konunun dolmasını çoğu zaman engellemez.