কনটেক্সট উইন্ডো কী?
কনটেক্সট উইন্ডো হলো AI মডেল একসাথে তার কার্যকর স্মৃতিতে সর্বোচ্চ যতটা লেখা ধরে রাখতে পারে - কথোপকথনের প্রতিটা মেসেজ, ফাইল আর টুলের সংজ্ঞা এর হিসাবে পড়ে।
তুমি মডেলকে যা পাঠাও সবকিছু একই সীমিত জায়গার জন্য লড়ে: সিস্টেম প্রম্পট, থ্রেডের প্রতিটা মেসেজ, আপলোড করা ফাইল, টুলের সংজ্ঞা, আর মডেল যে উত্তর লিখতে যাচ্ছে সেটা। সেই জায়গাই কনটেক্সট উইন্ডো, যা শব্দে না, টোকেনে মাপা হয়। কথোপকথন এটা ভরে ফেললে কিছু বাদ যেতেই হয়, আর সেটা প্রায় সবসময়ই সবচেয়ে পুরনো অংশ।
এ কারণেই একটা অ্যাসিস্ট্যান্ট পাঁচ নম্বর টার্নে তোমার প্রথম মেসেজ হুবহু উদ্ধৃত করতে পারে অথচ দুশো নম্বর টার্নে দুই নম্বর টার্নে তুমি কী বলেছিলে তার কিছুই জানে না। লেখাটা তোমার স্ক্রিনে এখনও আছে কারণ ইন্টারফেস সেটা জমিয়ে রাখে, কিন্তু মডেলকে আর সেটা দেওয়া হচ্ছে না। কনটেক্সট উইন্ডো প্রোডাক্ট আর প্ল্যানভেদে অনেক আলাদা, আর কোম্পানি যে সংখ্যা বলে সেটা মডেলের সক্ষমতা, কনজিউমার চ্যাট অ্যাপ প্রতি টার্নে আসলে যা লোড করে তা নাও হতে পারে।
folk-এ এটা কীভাবে কাজ করে
Folk লম্বা থ্রেড নিজে থেকে ছোট করে, কিন্তু আরও কাজের পার্থক্য হলো তার মেমরি থ্রেডে আটকে নেই। গত মাসে যা বলেছিলে পরের বার টেক্সট করলেও সেটা আছে, তুমি যে সারফেসই ব্যবহার করো না কেন।
প্রায়ই জিজ্ঞেস করা
কনটেক্সট উইন্ডোর সীমায় পৌঁছালে কী হয়?
হয় অ্যাসিস্ট্যান্ট থ্রেড চালাতে অস্বীকার করে, নয়তো চুপচাপ সবচেয়ে পুরনো মেসেজগুলো ফেলে দিয়ে এমনভাবে উত্তর দিয়ে যায় যেন সেগুলো কখনও ছিলই না। চুপচাপ ফেলাটাই বেশি ঘটে আর ধরা অনেক কঠিন।
বড় কনটেক্সট উইন্ডো মানে কি ভালো উত্তর?
নিজে থেকে না। কনটেক্সট বাড়লে মনোযোগ আরও পাতলা ছড়ায়, তাই কড়া সীমায় পৌঁছানোর অনেক আগেই মান কমতে থাকে। এই প্রভাবকে বলে কনটেক্সট রট, আর এ কারণেই একটা বিশাল থ্রেডের চেয়ে মনোযোগী ছোট থ্রেড সাধারণত ভালো।
সাবস্ক্রিপশনের টাকা দিলে কি কনটেক্সট উইন্ডো বাড়ে?
কখনও কখনও, কিন্তু মানুষ যতটা আশা করে তার চেয়ে কম। পেইড প্ল্যান সাধারণত প্রতি কথোপকথনের সীমা না বাড়িয়ে মেসেজের রেট সীমা বাড়ায়, তাই আপগ্রেড করলেও প্রায়ই লম্বা থ্রেড ভরে যাওয়া আটকায় না।