რა არის კონტექსტის ლპობა?
კონტექსტის ლპობა (context rot) არის AI-ის პასუხის ხარისხის დაქვეითება, რაც საუბრის გახანგრძლივებასთან ერთად ხდება. მიზეზი ისაა, რომ მოდელის ყურადღება უფრო მეტ ტოკენზე ნაწილდება, სანამ ადრინდელი ინსტრუქციები გავლენას დაკარგავს.
კონტექსტის ლპობა არ არის იგივე, რაც ადგილის ამოწურვა. ის იწყება ბევრად ადრე, ვიდრე მკაცრი ლიმიტი, რადგან მოდელი უფრო მეტ წონას ანიჭებს ბოლო ტოკენებს, ვიდრე შორეულებს. ინსტრუქციები, რომლებსაც პირველ შეტყობინებაში აძლევ, ტექნიკურად ჯერ კიდევ კონტექსტშია, მაგრამ დაბალი მნიშვნელობა აქვთ მინიჭებული, ამიტომ მოდელი კითხულობს მათ და ეფექტურად უგულებელყოფს.
სიმპტომები ცნობადია: ფორმატის წესი, რომელიც თავიდან დააწესე, ჩუმად წყვეტს დაცვას, შენ მიერ დაყენებული შეზღუდვა ირღვევა, ან ასისტენტი ისევ გკითხავს იმას, რაზეც უკვე უპასუხე. Anthropic ამ ეფექტს თავის სახელმძღვანელოში ხანგრძლივი Claude Code სესიების შესახებ აღწერს და აღნიშნავს, რომ წარმადობა უარესდება კონტექსტის ზრდასთან ერთად, რადგან ყურადღება მეტ ტოკენზე ნაწილდება და ძველი კონტენტი მიმდინარე ამოცანისგან ყურადღების გადატანას იწყებს.
პრაქტიკული კონტრზომები ყველა სახის ხელახალი დამაგრებაა. გაიმეორე ძირითადი ინსტრუქციები ყოველ ათამდე მიმოცვლაზე, განათავსე კრიტიკული შეზღუდვები შენი შეტყობინების ბოლოს, სადაც უფრო მეტი წონა აქვთ, და დაყავი ნამდვილად დაუკავშირებელი ამოცანები ცალკე საუბრებად, ნაცვლად იმისა, რომ ერთ ძაფში ჩააწყო.
როგორ მუშაობს ეს folk-ში
კომპაქცია ეხმარება როგორც ლპობას, ისე ტევადობას, რადგან მოძველებული რეპლიკების შეჯამება აშორებს ხმაურს, რომელიც ყურადღებას აზავებდა. Folk იცავს უახლეს რეპლიკებს და თავდაპირველ ჩარჩოს, შემდეგ კი შუაში არსებულს აკუმშებს.
ხშირად დასმული
კონტექსტის ლპობა იგივეა, რაც კონტექსტის ლიმიტის მიღწევა?
არა. ლიმიტის მიღწევა მკაცრი საზღვარია, სადაც კონტენტი იკარგება. Context rot არის ხარისხის თანდათანობითი დაცემა, რომელიც ლიმიტამდე დიდი ხნით ადრე იწყება და გამოწვეულია იმით, რომ ყურადღება უფრო დიდ საუბარზე თხელდება.
როგორ გამოვასწორო AI, რომელმაც ჩემი ინსტრუქციების დაცვა შეწყვიტა?
თავიდან ჩაამაგრე. მომდევნო შეტყობინების დასაწყისში ჩასვი სამიდან ხუთ სტრიქონამდე შეჯამება მთავარი გადაწყვეტილებებისა და შეზღუდვების შესახებ და გაიმეორე ნებისმიერი ფორმატის წესი, რომელიც ადრე დააწესე. თუ თემა ნამდვილად შეიცვალა, სამაგიეროდ ახალი საუბარი დაიწყე.
რამდენი ხანია ძალიან გრძელი ერთი AI საუბრისთვის?
არ არსებობს ფიქსირებული რიცხვი, მაგრამ ხარისხი ჩვეულებრივ იწყებს ვარდნას ოციდან ოცდაათი არსებითი გაცვლის შემდეგ. უკეთესი წესია თემატური: როცა გადადიხარ სრულიად ახალ ამოცანაზე, დაიწყე ახალი თრედი.