Што е ограничување на токени?
Лимитот на токени е горна граница на тоа колку токени, делови од текст од по околу три четвртини од збор, може да обработи AI моделот во едно барање, вклучувајќи ја и историјата на разговорот и неговиот одговор.
Моделите не читаат зборови, туку токени. Еден токен е отприлика три четвртини од англиски збор, така што илјада зборови чинат околу илјада и триста токени. Интерпункцијата, кодот и текстот што не е на англиски се токенизираат помалку ефикасно, затоа една страница код јаде многу повеќе буџет од една страница проза.
Лимитот важи за целото барање, не за твојата последна порака. Тоа е детаљот што речиси сите го грешат. Порака од три збора што ја додаваш сепак се прикачува на целиот претходен разговор пред да се прати, така што една ситна порака може да биде таа што ќе го префрли долгиот разговор преку лимитот. Дефинициите за алатките и поврзаните интеграции се наплатуваат од истиот буџет, затоа исклучувањето неискористени алатки може да ти врати вистински простор.
како функционира ова во folk
Folk го следи сопствениот буџет за токени и се компактира пред да остане без него, така што ти не си тој што го следи. Нема бројач за пазење и нема точка во која разговорот одбива да продолжи.
често поставувани
Колку зборови е еден токен?
Отприлика три четвртини од збор на англиски, така што 1.000 токени се околу 750 збора. Кодот, интерпункцијата и другите јазици се токенизираат помалку ефикасно и трошат повеќе од буџетот по знак.
Зошто вели максимална должина кога мојата порака беше кратка?
Затоа што лимитот ја брои целата конверзација, не само твојата последна порака. Секоја претходна размена се праќа повторно со секој нов одговор, па кратка порака може да биде таа што го турка вкупниот број над границата.
Дали качените фајлови се сметаат во лимитот за токени?
Да. Датотеките, сликите, дефинициите за алатки и системските инструкции трошат истиот буџет како и твоите пораки, затоа разговорот со неколку прилози се полни многу побрзо од оној со чист текст.