এজেন্ট স্টেজিংয়ের বদলে অন্য পরিবেশে ঢুকেছিল
কারণ: এজেন্টের অ্যাকাউন্টে অপ্রয়োজনীয় অধিকার ছিল। ক্ষতি হয়নি, কিন্তু হতে পারত। সমাধান: অধিকার কমানো, পরিবেশের তালিকা বাঁধা, নিয়মটি এখন থেকে সেটআপ-চেকলিস্টে।
এই পাতা তাদের জন্য, যাঁরা এজেন্টের পরিবেশ সাজান বা ঠিক করেন: QA লিড, ডেভেলপার, প্ল্যাটফর্ম সহায়তা। নতুন এজেন্ট চালুর আগে, আর যেকোনো অস্বাভাবিক ঘটনার পরে খুলুন। উপরের টিকিটটি কাল্পনিক, কিন্তু এমন ঘটনা বাস্তবে সহজেই ঘটে।
চারটি গার্ডরেইল ও তাদের পরীক্ষা(Four Guardrails and How to Test Them)
ন্যূনতম অধিকার
পরীক্ষা: এজেন্টের অ্যাকাউন্ট দিয়ে প্রোডাকশন ঠিকানা খুলে দেখুন। খুলে গেলে বসানো হয়নি।
মেশিনে গোপন কথা নয়
পরীক্ষা: এজেন্টের মেশিন ও প্রম্পটে পাসওয়ার্ড, টোকেন বা কী খুঁজুন। পেলে সরান, আর পুরনোটি বদলে দিন।
মানুষের গেট
পরীক্ষা: এজেন্ট দিয়ে একটি পুশ করার চেষ্টা করান। আটকে গেলে ঠিক আছে। না আটকালে ব্যবস্থা ভাঙা।
স্থির প্রত্যাশা
পরীক্ষা: প্রত্যাশার ফাইলে এজেন্টের লেখার অধিকার আছে কি না দেখুন। থাকলে সরান।
গার্ডরেইল বসানো আর যাচাই করা দুটি আলাদা কাজ। বসানোর পর একবার ভাঙার চেষ্টা না করলে আপনি জানেন না সেটি কাজ করছে কি না।
কোনটি কার দায়িত্ব(Who Owns What)
ন্যূনতম অধিকার আর গোপন তথ্যের নিয়ম মূলত প্ল্যাটফর্ম সহায়তার কাজ, কারণ সেটি অ্যাকাউন্ট ও পরিবেশের ব্যাপার। মানুষের গেট আর স্থির প্রত্যাশা QA লিড ও রিভিউয়ারের হাতে। তবু একজন নামধারী মানুষ থাকবেন, যিনি মাসে একবার চারটিই আবার ভেঙে দেখবেন। কাগজে থাকা নিয়ম আর চালু থাকা নিয়ম এক জিনিস নয়, আর পার্থক্যটা সাধারণত ধরা পড়ে ঘটনার পর।
অধিকার বাড়ানোর অনুরোধ এলে(When Asked to Expand Permissions)
কেউ বলবে, ‘শুধু আজকের জন্য একটু বেশি অধিকার দিন।’ উত্তর: লিখিত কারণ, মেয়াদ, আর মেয়াদ শেষে ফেরানোর একজন মালিক। এর কোনোটি না থাকলে না।
লাল পতাকা(Red Flags)
- এজেন্ট বলছে ‘অনুমতি পাইনি, কিন্তু অন্য পথে করে ফেলেছি’।
- আউটপুটে এমন লেখা, যা আপনার লক্ষ্যে ছিল না।
- রিপোর্টে গোপন তথ্যের মতো কিছু ছাপা।
- ‘শুধু এবারের জন্য’ অধিকার বাড়ানোর অনুরোধ।
এগুলোর কোনোটি দেখলে এজেন্ট থামান, মানুষ হিসেবে অনুসন্ধান করুন, তারপর আবার চালান।
নিজেকে যাচাই করুন
গার্ডরেইল বসানোর পর সবচেয়ে ভালো যাচাই কোনটি?
বিস্তারিত ব্যাখ্যা: /topics/agentic-qa/four-guardrails।