რა არის კონტექსტის ფანჯარა?
კონტექსტის ფანჯარა არის ტექსტის მაქსიმალური რაოდენობა, რომელიც AI მოდელს ერთდროულად სამუშაო მეხსიერებაში ეტევა, საუბრის ყველა შეტყობინება, ფაილი და ხელსაწყოს განმარტება მასში ითვლება.
ყველაფერი, რასაც მოდელს უგზავნი, ერთსა და იმავე შეზღუდულ სივრცეზე იბრძვის: სისტემური პრომპტი, თრედის ყველა შეტყობინება, ატვირთული ფაილები, ხელსაწყოების განმარტებები და პასუხი, რომლის დაწერასაც მოდელი აპირებს. ეს სივრცე კონტექსტის ფანჯარაა, რომელიც სიტყვებით კი არა, ტოკენებით იზომება. როცა საუბარი მას ავსებს, რაღაც უნდა გავიდეს, და ეს თითქმის ყოველთვის ყველაზე ძველი კონტენტია.
ამიტომ ასისტენტს შეუძლია მეხუთე ნაბიჯზე შენი პირველი შეტყობინება იდეალურად ციტიროს, მეორასე ნაბიჯზე კი წარმოდგენა არ ჰქონდეს, რა თქვი. ტექსტი ჯერ კიდევ შენს ეკრანზეა, რადგან ინტერფეისი ინახავს მას, მაგრამ მოდელს აღარ მიეწოდება. კონტექსტის ფანჯრები პროდუქტისა და გეგმის მიხედვით ძალიან განსხვავდება, და რიცხვი, რომელსაც კომპანია რეკლამირებს, მოდელის ტევადობაა, და არა აუცილებლად ის, რასაც მომხმარებლის ჩატის აპი რეალურად ტვირთავს ყოველ ნაბიჯზე.
როგორ მუშაობს ეს folk-ში
Folk ავტომატურად აკომპაქტებს გრძელ თრედებს, მაგრამ უფრო სასარგებლო განსხვავება ის არის, რომ მისი მეხსიერება არ არის მიბმული თრედზე. რაც გასულ თვეში უთხარი, კვლავ ხელმისაწვდომია შემდეგ ჯერზე, როცა მისწერ, რომელ ზედაპირზეც არ უნდა იყო.
ხშირად დასმული
რა ხდება, როცა კონტექსტის ფანჯრის ლიმიტს მიაღწევ?
ან ასისტენტი უარს ამბობს თემის გაგრძელებაზე, ან ჩუმად აგდებს ყველაზე ძველ შეტყობინებებს და აგრძელებს პასუხებს, თითქოს ისინი არასდროს ყოფილა. ჩუმი ვერსია უფრო ხშირია და გაცილებით ძნელი შესამჩნევი.
უფრო დიდი კონტექსტის ფანჯარა ნიშნავს უკეთეს პასუხებს?
ავტომატურად არა. კონტექსტის ზრდასთან ერთად ყურადღება უფრო თხელდება, ამიტომ ხარისხი ხშირად მკაცრ ლიმიტამდე ბევრად ადრე ეცემა. ამ ეფექტს context rot ჰქვია და სწორედ ამიტომ ფოკუსირებული საუბრები ჩვეულებრივ სჯობს ერთ უზარმაზარს.
ფასიანი გამოწერით კონტექსტის ფანჯარა იზრდება?
ზოგჯერ, მაგრამ ნაკლებად, ვიდრე ხალხი მოელის. ფასიანი გეგმები ჩვეულებრივ ზრდიან შეტყობინებების სიხშირის ლიმიტებს და არა თითო საუბრის ჭერს, ასე რომ, განახლება ხშირად არ აჩერებს გრძელი თრედის ავსებას.