প্রেরক: নাজমা আপু
প্রাপক: QA টিম
বিষয়: চ্যাটবট রিলিজের আগে একটি ছোট নিয়ম
সবাইকে। গতকাল শুনলাম, কেউ একজন গ্রাহকের অভিযোগ কপি করে সরাসরি একটি এআই চ্যাটে পেস্ট করেছে, বাগ রিপোর্টটা সুন্দর করার জন্য। সেই অভিযোগে গ্রাহকের নাম, ফোন নম্বর আর টিকিট নম্বর ছিল।
আমি কাউকে দোষ দিচ্ছি না। আমরা কেউ বলে দিইনি যে এটা করা যাবে না। এখন বলছি: নিয়মের একটি খসড়া চাই, আজকের মধ্যে। রিলিজ করা যাবে তো, সেটা পরের প্রশ্ন।
ঘটনাটা ঘটিয়েছিল রুমি নিজেই। অবশ্য ইচ্ছা করে নয়। তাড়াহুড়োয় সুবিধাজনক রাস্তাটা বেছে নিয়েছিল। এখান থেকেই গভর্ন্যান্সের শুরু: ভুল তখনই ঘটে, যখন সঠিক কাজটা কী, তা কেউ লিখে রাখেনি।
প্রথম প্রশ্ন: কোন তথ্য কোথায় যায়(First Question: Which Data Goes Where)
একটি মডেলে বা এজেন্টে কিছু পাঠানোর আগে মনে রাখুন, সেই লেখা অন্য কারও সার্ভারে যেতে পারে, লগে থাকতে পারে, অন্য কেউ দেখতে পারে। তাই প্রশ্ন একটাই: এই তথ্য দলের বাইরে গেলে কার ক্ষতি, কতটুকু?
আড়াআড়ি: তথ্য ফাঁস হলে ক্ষতি
খাড়া: এআইকে দেওয়ার দরকার
বাঁ দিকে নিচে বা ওপরে যা আছে, সহজে ব্যবহার করুন। ডান দিকে যা আছে, তা মডেলে দেওয়ার আগে নাম মুছুন, বদলান, নতুবা দেবেনই না। আপনার প্রতিষ্ঠানের নিজস্ব নীতিই এখানে শেষ কথা, কোন সরঞ্জাম অনুমোদিত তাও সেখান থেকে জানবেন। এই লেখায় কোনো আইনের কথা বলা হচ্ছে না।
রুমির খসড়া(Rumi's Draft)
রাতে বসে রুমি নিয়মের পাঁচটি লাইন লিখল, আর তানভীর ভাই কাটাকুটি করলেন। শেষ রূপটি ছিল এরকম।
এআই ব্যবহারের পাঁচ নিয়ম (খসড়া)
০/৫
অনুমোদন আর অডিট ট্রেইল(Approval and Audit Trail)
অনুমোদন মানে শুধু হ্যাঁ বলা নয়। অনুমোদনকারী কী দেখেছেন, তার প্রমাণ থাকতে হবে: কোন ডিফ, কোন সময়, কোন সিদ্ধান্ত। একে বলে অডিট ট্রেইল। কিছু ভুল হলে এই ট্রেইল দিয়েই খোঁজা যায় কোথায় ফসকাল। ট্রেইল না থাকলে দোষ খোঁজা চলে, কিন্তু শেখা চলে না।
দায়িত্ব মানুষের, সবসময়(Responsibility Stays With Humans)
এজেন্ট একটি টেস্ট লিখল, আর টেস্ট একটি বাগ চেপে গেল। দোষ কার? এজেন্টের কোনো দায় থাকে না, কারণ সে দায় বহন করতে পারে না। যে মানুষ আউটপুট গ্রহণ করল, দায় তার। এ কথা শুনতে কড়া, কিন্তু উপকারও করে। কারণ তখন কেউ আর না পড়ে অনুমোদন করবে না।
- রিপোর্টে
- এআই বলেছে সব ঠিক আছে।
- ভুল ধরা পড়লে
- এজেন্ট ভুল করেছে।
পক্ষপাতের দিকে নজর(Watch for Bias)
এআই প্রশিক্ষণের ডেটা থেকে শেখে, আর সেই ডেটায় সমাজের পক্ষপাত থাকতে পারে। চ্যাটবট পরীক্ষায় তাই একটু আলাদা প্রশ্ন যোগ করুন। একই প্রশ্ন ভিন্ন নাম, ভিন্ন এলাকা বা ভিন্ন ভাষার ধরনে করলে কি উত্তরের মান বা সুর বদলায়? মফস্বলের গ্রাহকের চলিত বা ভাঙা বাংলায় লেখা প্রশ্ন কি কম ভালো উত্তর পায়? এটি নিশ্চিত করে বলার দরকার নেই যে পক্ষপাত আছে। দেখাই কাজ: তুলনা করুন, পার্থক্য পেলে নথিভুক্ত করুন, দলকে জানান।
এড়ানোর ভুল(Mistakes to Avoid)
- নিয়ম লেখা হলো, কিন্তু কেউ পড়ল না। নিয়ম এক পাতায় রাখুন আর নতুন সদস্যকে প্রথম দিনেই দেখান।
- বানানো ডেটার নামে আসল ডেটা থেকে সামান্য বদলে নেওয়া। এতে মূল মানুষ চেনা যেতে পারে।
- লগে সবকিছু রাখা, এমনকি সংবেদনশীল ইনপুটও। অডিটের জন্য যা দরকার, শুধু তা রাখুন।
নিজেকে যাচাই করুন
ফারদিন একটি গ্রাহকের অভিযোগ এআই-তে দিয়ে সারসংক্ষেপ বানাতে চায়। অভিযোগে নাম ও ফোন নম্বর আছে। সবচেয়ে ভালো পথ কোনটি?
নাজমা আপু পরদিন সকালে এক লাইন লিখলেন: এক পাতার নিয়মটা সবার ডেস্কটপে চাই। রুমি প্রিন্ট করে নিজের নোটবুকের প্রথম পাতায় আঠা দিয়ে লাগিয়ে রাখল।