რა არის კომპაქცია AI ჩატში?
Compaction არის როცა AI სისტემა საუბრის ადრინდელ ნაწილებს აჯამებს და მათ ამ შეჯამებით ცვლის, რითაც კონტექსტის ფანჯარაში ადგილს ათავისუფლებს, რომ საუბარი გაგრძელდეს.
იმის ნაცვლად, რომ საუბარი კონტექსტის ლიმიტზე მოკვდეს, კომპაქცია ძველ რეპლიკებს ერთ შეჯამებად აკუმშებს და იქიდან აგრძელებს. Anthropic-ის API დოკუმენტაცია ამ მექანიზმს პირდაპირ აღწერს: სისტემა ამჩნევს, როცა შემავალი ტოკენები ზღვარს აღწევს, აგენერირებს შეჯამებას და შლის მანამდე არსებულ ყველა კონტენტის ბლოკს. Claude Code იგივე იდეას გაძლევს როგორც ბრძანებას, რომელიც თავად შეგიძლია გაუშვა.
სამომხმარებლო აპები ამას არათანმიმდევრულად ამუშავებენ, რაც დაბნეულობის მთავარი წყაროა. Claude ავტომატურ კონტექსტის მართვას იყენებს ფასიან გეგმებზე, მაგრამ მხოლოდ მაშინ, როცა კოდის შესრულება ჩართულია. Gemini-ს აპი სერვერის მხარეს მოცურავი ფანჯრის კომპრესიას იყენებს, შენ რომ არ გითხრას. ChatGPT სამაგიეროდ განშტოებას გთავაზობს, რაც საშუალებას გაძლევს ადრინდელი შეტყობინებიდან გადახვიდე თრედში ახალი ბიუჯეტით. რამდენიმე ასისტენტი არაფერს აკეთებს და უბრალოდ ჩერდება.
კომპაქცია თავისთავად დანაკარგიანია. რაც გადარჩება, მთლიანად შეჯამების ხარისხზეა დამოკიდებული, შეჯამებები კი იმ მომენტში გენერირდება, როცა მოდელს ფიქრისთვის ყველაზე ნაკლები ადგილი აქვს. ამიტომ ხელით დაწერილი გადაცემის ჩანაწერი ხშირად უფრო მეტს ინახავს იმას, რაც მნიშვნელოვანია, ვიდრე ავტომატური.
როგორ მუშაობს ეს folk-ში
Folk ავტომატურად იკუმშება სტრუქტურირებული გადაცემის შეჯამების გამოყენებით, რომელიც იცავს უახლეს ტურნებს და აკონტროლებს რა რჩება გადაუწყვეტელი, ასე რომ გრძელი თრედი გრძელდება შენ რომ ნაკერი ვერ შეამჩნიო.
ხშირად დასმული
ავტომატურად ამოკლებს ChatGPT საუბრებს?
არა ისე, როგორც Claude Code აკეთებს. ChatGPT აჩერებს თრედს ჭერზე და სამაგიეროდ გთავაზობს ადრინდელი შეტყობინებიდან განშტოებას, რაც ახალ საუბარს იწყებს და იმ მომენტამდე ისტორიას გადააქვს.
კომპაქცია დანაკარგიანია?
დიახ. დეტალები განზრახ იშლება და შეჯამება ხდება მაშინ, როცა მოდელს ყველაზე ნაკლები კონტექსტი აქვს. მნიშვნელოვანი რიცხვებისა და გადაწყვეტილებების სიტყვასიტყვით კოპირება კომპაქციამდე იცავს მათ.
შემიძლია თავად გამოვიწვიო compaction?
დეველოპერის ხელსაწყოებში, როგორიცაა Claude Code, დიახ, კომპაქტური ბრძანებით. უმეტეს მომხმარებლის ჩატ აპებში არ არის ხელით გამომწვევი, ასე რომ, გამოსავალია მოითხოვო გადაცემის შეჯამება და ჩასვა ახალ ჩატში.