Ի՞նչ է կոնտեքստի պատուհանը։
Կոնտեքստի պատուհանը առավելագույն տեքստի քանակն է, որը AI մոդելը կարող է միաժամանակ պահել աշխատանքային հիշողության մեջ․ զրույցի յուրաքանչյուր հաղորդագրություն, ֆայլ և գործիքի սահմանում հաշվվում է դրա մեջ։
Այն ամենը, ինչ ուղարկում ես մոդելին, մրցում է նույն սահմանափակ տարածքի համար՝ համակարգի հուշումը, թրեդի յուրաքանչյուր հաղորդագրությունը, վերբեռնված ֆայլերը, գործիքների սահմանումները և այն պատասխանը, որը մոդելը պատրաստվում է գրել։ Այդ տարածքը կոնտեքստի պատուհանն է՝ չափվում է թոքեններով, ոչ թե բառերով։ Երբ զրույցը լցնում է այն, ինչ-որ բան պետք է դուրս գա, և դա գրեթե միշտ ամենահին բովանդակությունն է։
Ահա թե ինչու օգնականը կարող է հինգերորդ քայլին հիանալի մեջբերել քո առաջին հաղորդագրությունը և երկու հարյուրերորդ քայլին գաղափար չունենալ, թե ինչ էիր ասել։ Տեքստը դեռ քո էկրանին է, որովհետև ինտերֆեյսը պահում է այն, բայց այն այլևս չի մատակարարվում մոդելին։ Կոնտեքստային պատուհանները շատ տարբեր են՝ կախված ապրանքից և պլանից, և այն թիվը, որը գովազդում է ընկերությունը, մոդելի հզորությունն է, ոչ թե անպայման այն, ինչ սպառողական չաթ հավելվածը իրականում բեռնում է յուրաքանչյուր քայլին։
ինչպես է սա աշխատում folk-ում
Folk-ը ավտոմատ կերպով կոմպակտացնում է երկար թեմաները, բայց ավելի օգտակար տարբերությունն այն է, որ նրա հիշողությունը կապված չէ թեմային: Այն, ինչ դու ասել ես նրան անցյալ ամիս, դեռ հասանելի է հաջորդ անգամ, երբ գրես, ցանկացած մակերեսի վրա, որն օգտագործում ես:
հաճախ տրվող հարցեր
Ի՞նչ է տեղի ունենում, երբ հասնում ես կոնտեքստի պատուհանի սահմանին:
Կամ օգնականը հրաժարվում է շարունակել զրույցը, կամ լուռ դեն է նետում ամենահին հաղորդագրությունները և շարունակում է պատասխանել, կարծես դրանք երբեք չեն եղել։ Լուռ տարբերակն ավելի տարածված է և շատ ավելի դժվար նկատելի։
Ավելի մեծ կոնտեքստի պատուհանը նշանակո՞ւմ է ավելի լավ պատասխաններ:
Ոչ ավտոմատ։ Ուշադրությունը ավելի է նոսրանում, երբ կոնտեքստը մեծանում է, այնպես որ որակը հաճախ ընկնում է դեռ կոշտ սահմանից առաջ։ Այս էֆեկտը կոչվում է context rot, և դրա պատճառով կենտրոնացված թրեդները սովորաբար ավելի լավն են, քան մեկ հսկայականը։
Արդյո՞ք բաժանորդագրության համար վճարելը մեծացնում է կոնտեքստի պատուհանը:
Երբեմն, բայց ավելի քիչ, քան մարդիկ են սպասում։ Վճարովի պլանները սովորաբար բարձրացնում են հաղորդագրությունների rate cap-երը, ոչ թե մեկ զրույցի վերին սահմանը, այնպես որ upgrade անելը հաճախ չի խանգարում, որ երկար զրույցը լցվի։