কনটেক্সট রট কী?
কনটেক্সট রট হলো কথোপকথন লম্বা হলে AI এর উত্তরের মান কমে যাওয়া, যার কারণ মডেলের মনোযোগ আরও বেশি টোকেনে ছড়িয়ে পড়ে আর আগের নির্দেশের প্রভাব কমে যায়।
কনটেক্সট রট জায়গা ফুরিয়ে যাওয়ার মতো না। এটা কড়া সীমার অনেক আগেই শুরু হয়, কারণ মডেল দূরের টোকেনের চেয়ে সাম্প্রতিক টোকেনকে বেশি গুরুত্ব দেয়। তোমার প্রথম মেসেজে দেওয়া নির্দেশ প্রযুক্তিগতভাবে এখনও কনটেক্সটে আছে কিন্তু কম গুরুত্ব পায়, ফলে মডেল সেটা পড়েও কার্যত উপেক্ষা করে।
লক্ষণগুলো চেনা যায়: শুরুতে ঠিক করা ফরম্যাটের নিয়ম চুপচাপ মানা বন্ধ হয়, তোমার দেওয়া শর্ত ভাঙা হয়, বা অ্যাসিস্ট্যান্ট এমন কিছু আবার জিজ্ঞেস করে যার উত্তর তুমি আগেই দিয়েছ। Anthropic লম্বা Claude Code সেশন নিয়ে নিজেদের নির্দেশিকায় এই প্রভাব বর্ণনা করেছে, বলেছে কনটেক্সট বাড়লে পারফরম্যান্স কমে কারণ মনোযোগ আরও বেশি টোকেনে ছড়ায় আর পুরনো লেখা বর্তমান কাজ থেকে মন সরাতে শুরু করে।
বাস্তব প্রতিকারগুলো সবই আবার নোঙর ফেলার রূপ। প্রতি দশেক আদান-প্রদানে মূল নির্দেশ আবার বলো, জরুরি শর্ত মেসেজের শেষের দিকে রাখো যেখানে সেগুলোর ওজন বেশি, আর সত্যিই আলাদা কাজগুলো এক থ্রেডে না জমিয়ে আলাদা কথোপকথনে ভাগ করো।
folk-এ এটা কীভাবে কাজ করে
কম্প্যাকশন শুধু ধারণক্ষমতায় না, রটেও সাহায্য করে, কারণ পুরনো টার্নের সারাংশ করলে মনোযোগ পাতলা করা গোলমালটা সরে যায়। Folk সবচেয়ে নতুন টার্ন আর আসল ভূমিকা সুরক্ষিত রাখে, আর মাঝের অংশটা সংকুচিত করে।
প্রায়ই জিজ্ঞেস করা
কনটেক্সট রট কি কনটেক্সট সীমায় পৌঁছানোর মতোই?
না। সীমায় পৌঁছানো একটা কড়া সীমানা যেখানে লেখা বাদ পড়ে। কনটেক্সট রট ধীরে ধীরে মান পড়ে যাওয়া যা সীমার অনেক আগে শুরু হয়, বড় কথোপকথনে মনোযোগ পাতলা হয়ে যাওয়ার কারণে।
যে AI আমার নির্দেশ মানা বন্ধ করেছে তাকে কীভাবে ঠিক করব?
আবার নোঙর ফেলো। তোমার পরের মেসেজের শুরুতে মূল সিদ্ধান্ত আর শর্তের তিন থেকে পাঁচ লাইনের সারাংশ পেস্ট করো, আর আগে ঠিক করা যেকোনো ফরম্যাটের নিয়ম আবার বলো। বিষয় সত্যিই বদলে গেলে বরং নতুন কথোপকথন শুরু করো।
একটা AI কথোপকথন কতটা লম্বা হলে বেশি লম্বা?
কোনো বাঁধা সংখ্যা নেই, কিন্তু সাধারণত বিশ থেকে ত্রিশটা মোটামুটি বড় আদান-প্রদানের পর কোথাও মান পড়তে শুরু করে। একটা ভালো নিয়ম বিষয়ভিত্তিক: যখন সত্যিই নতুন কাজে যাও, নতুন থ্রেড শুরু করো।