Apa itu batas token?
Batas token adalah batas berapa banyak token, potongan teks yang masing-masing kira-kira tiga perempat kata, yang bisa diproses model AI dalam satu permintaan, termasuk riwayat percakapan dan balasannya sendiri.
Model tidak membaca kata, tapi token. Satu token kira-kira tiga perempat kata bahasa Inggris, jadi seribu kata setara sekitar seribu tiga ratus token. Tanda baca, kode, dan teks selain bahasa Inggris dipecah jadi token dengan kurang efisien, makanya satu halaman kode menghabiskan jatah jauh lebih banyak daripada satu halaman tulisan biasa.
Batas ini berlaku untuk seluruh permintaan, bukan cuma pesan terakhir kamu. Detail inilah yang hampir semua orang salah paham. Pesan lanjutan tiga kata tetap ditambahkan ke seluruh percakapan sebelumnya sebelum dikirim, jadi pesan kecil bisa jadi yang bikin thread panjang melewati batas. Definisi alat dan integrasi yang terhubung juga memakai jatah yang sama, itulah kenapa menonaktifkan alat yang tidak dipakai bisa mengembalikan ruang yang lumayan.
cara kerjanya di folk
Folk memantau jatah tokennya sendiri dan memadatkan percakapan sebelum habis, jadi bukan kamu yang harus memantaunya. Nggak ada penghitung yang perlu dijagain dan nggak ada titik di mana percakapan menolak dilanjutkan.
sering ditanyain
Satu token itu berapa kata?
Kira-kira tiga perempat kata dalam bahasa Inggris, jadi 1,000 token sekitar 750 kata. Kode, tanda baca, dan bahasa lain dipecah dengan kurang efisien dan memakai lebih banyak jatah per karakter.
Kenapa muncul pesan panjang maksimum padahal pesan aku pendek?
Karena batasnya menghitung seluruh percakapan, bukan cuma pesan terakhir kamu. Setiap obrolan sebelumnya dikirim ulang di setiap giliran, jadi pesan pendek bisa jadi yang mendorong totalnya melewati batas.
Apakah file yang diunggah ikut dihitung ke batas token?
Iya. File, gambar, definisi alat, dan instruksi sistem semuanya memakai jatah yang sama dengan pesan kamu, makanya thread dengan beberapa lampiran jauh lebih cepat penuh daripada thread teks biasa.