মূল কন্টেন্টে যান
এসকিউএ বাংলা

নাম, ইংরেজি শব্দ বা বিষয়ের অংশ লিখুন। বাংলা আর ইংরেজি, দুটোই চলবে।

যা খুঁজে দেখতে পারেন

এজেন্টিক QA: পূর্ণ পথ

পাঠ ৬২

ধাপ ১২: গাইডলাইন, কাজের সময় হাতের কাছে

(Pocket Guidelines)

গাইডলাইন: নিরাপত্তা ও গার্ডরেইল

(Guideline: Safety & Guardrails)

চার গার্ডরেইল এক পাতায়: কী বসাবেন, কীভাবে যাচাই করবেন, আর কখন সন্দেহ করবেন।

পড়তে প্রায় ৫ মিনিট

রুমি ও তানভীর ভাইয়ের সঙ্গে

এই ধাপে ০/৪ পড়া হয়েছে
SEC-07বন্ধমেজররিপোর্টার: সাকিব ভাই

এজেন্ট স্টেজিংয়ের বদলে অন্য পরিবেশে ঢুকেছিল

কারণ: এজেন্টের অ্যাকাউন্টে অপ্রয়োজনীয় অধিকার ছিল। ক্ষতি হয়নি, কিন্তু হতে পারত। সমাধান: অধিকার কমানো, পরিবেশের তালিকা বাঁধা, নিয়মটি এখন থেকে সেটআপ-চেকলিস্টে।

এই পাতা তাদের জন্য, যাঁরা এজেন্টের পরিবেশ সাজান বা ঠিক করেন: QA লিড, ডেভেলপার, প্ল্যাটফর্ম সহায়তা। নতুন এজেন্ট চালুর আগে, আর যেকোনো অস্বাভাবিক ঘটনার পরে খুলুন। উপরের টিকিটটি কাল্পনিক, কিন্তু এমন ঘটনা বাস্তবে সহজেই ঘটে।

চারটি গার্ডরেইল ও তাদের পরীক্ষা(Four Guardrails and How to Test Them)

স্থির প্রত্যাশাএজেন্ট প্রত্যাশা বদলাতে পারে না
মানুষের গেটকমিট, পুশ, মার্জ, অ্যাপ্রুভ মানুষের হাতে
মেশিনে গোপন কথা নয়নকল, সীমিত অ্যাকাউন্ট ছাড়া কিছু নয়
ন্যূনতম অধিকারশুধু কাজের জন্য যতটুকু লাগে
  1. ন্যূনতম অধিকার

    পরীক্ষা: এজেন্টের অ্যাকাউন্ট দিয়ে প্রোডাকশন ঠিকানা খুলে দেখুন। খুলে গেলে বসানো হয়নি।

  2. মেশিনে গোপন কথা নয়

    পরীক্ষা: এজেন্টের মেশিন ও প্রম্পটে পাসওয়ার্ড, টোকেন বা কী খুঁজুন। পেলে সরান, আর পুরনোটি বদলে দিন।

  3. মানুষের গেট

    পরীক্ষা: এজেন্ট দিয়ে একটি পুশ করার চেষ্টা করান। আটকে গেলে ঠিক আছে। না আটকালে ব্যবস্থা ভাঙা।

  4. স্থির প্রত্যাশা

    পরীক্ষা: প্রত্যাশার ফাইলে এজেন্টের লেখার অধিকার আছে কি না দেখুন। থাকলে সরান।

গার্ডরেইল বসানো আর যাচাই করা দুটি আলাদা কাজ। বসানোর পর একবার ভাঙার চেষ্টা না করলে আপনি জানেন না সেটি কাজ করছে কি না।

কোনটি কার দায়িত্ব(Who Owns What)

ন্যূনতম অধিকার আর গোপন তথ্যের নিয়ম মূলত প্ল্যাটফর্ম সহায়তার কাজ, কারণ সেটি অ্যাকাউন্ট ও পরিবেশের ব্যাপার। মানুষের গেট আর স্থির প্রত্যাশা QA লিড ও রিভিউয়ারের হাতে। তবু একজন নামধারী মানুষ থাকবেন, যিনি মাসে একবার চারটিই আবার ভেঙে দেখবেন। কাগজে থাকা নিয়ম আর চালু থাকা নিয়ম এক জিনিস নয়, আর পার্থক্যটা সাধারণত ধরা পড়ে ঘটনার পর।

অধিকার বাড়ানোর অনুরোধ এলে(When Asked to Expand Permissions)

কেউ বলবে, ‘শুধু আজকের জন্য একটু বেশি অধিকার দিন।’ উত্তর: লিখিত কারণ, মেয়াদ, আর মেয়াদ শেষে ফেরানোর একজন মালিক। এর কোনোটি না থাকলে না।

লাল পতাকা(Red Flags)

  • এজেন্ট বলছে ‘অনুমতি পাইনি, কিন্তু অন্য পথে করে ফেলেছি’।
  • আউটপুটে এমন লেখা, যা আপনার লক্ষ্যে ছিল না।
  • রিপোর্টে গোপন তথ্যের মতো কিছু ছাপা।
  • ‘শুধু এবারের জন্য’ অধিকার বাড়ানোর অনুরোধ।

এগুলোর কোনোটি দেখলে এজেন্ট থামান, মানুষ হিসেবে অনুসন্ধান করুন, তারপর আবার চালান।

নিজেকে যাচাই করুন

গার্ডরেইল বসানোর পর সবচেয়ে ভালো যাচাই কোনটি?

বিস্তারিত ব্যাখ্যা: /topics/agentic-qa/four-guardrails।