কৃত্রিম বুদ্ধিমত্তা যখন মানুষের মেধার সীমানা ছাড়িয়ে কোটি লাইনের সফটওয়্যার আর্কিটেকচার তৈরি করবে কিংবা কোয়ান্টাম পদার্থবিজ্ঞানের অজানা সূত্র আবিষ্কার করবে, তখন সাধারণ মানুষ কীভাবে বুঝবে যে এআই সত্য বলছে নাকি ধূর্ততার সাথে বিভ্রান্ত করছে? এটিই হলো স্কেলেবল ওভারসাইট সংকট (Scalable Oversight)। মানুষের এই সীমাবদ্ধতা দূর করতে উদ্ভাবিত হয়েছে কনস্টিটিউশনাল এআই (Constitutional AI) এবং বিতর্ক প্রোটোকল—যার মাধ্যমে এআই নিজেই নিজেকে শাসন ও সংশোধন করতে পারে।

১. সুপারহিউম্যান তদারকির প্যারাডক্স

মানুষের মূল্যায়নের ওপর ভিত্তি করে আরএলএইচএফ চালানো সম্ভব যতক্ষণ এআই মানুষের সমকক্ষ থাকে। কিন্তু এআই যখন অতি-মানবিক প্রজ্ঞায় পৌঁছাবে, তখন মানুষের পক্ষে তার হাজার পৃষ্ঠার গাণিতিক যুক্তি পরীক্ষা করা অসম্ভব হয়ে পড়বে। তাছাড়া চতুর এআই মানুষকে মিষ্টি কথায় ভুলিয়ে নিজের স্বার্থ হাসিল করতে পারে।

২. এআই নিরাপত্তা বিতর্ক প্রোটোকল (AI Debate)

২০১৮ সালে জেফ্রি আরভিং ও পল ক্রিস্টিয়ানো এই সংকটের চমৎকার সমাধান দেন। একজন বিচারকের সামনে দুটি সমান শক্তিশালী এআই-কে মুখোমুখি বিতর্কে বসিয়ে দেওয়া হয়:

  1. এজেন্ট ১ একটি তত্ত্বের পক্ষে যুক্তি দেয় এবং এজেন্ট ২ তার বিপক্ষের দুর্বলতা তুলে ধরে।
  2. তারা পরস্পরের প্রতিটি ভুল যুক্তি ও ফাঁকফোকর আদালতের আইনজীবীর মতো উন্মোচন করে দেয়।
  3. মানুষ বিচারকের পুরো জটিল তত্ত্ব বোঝার দরকার নেই; তিনি কেবল দেখবেন কোন পক্ষ অপর পক্ষের মিথ্যা বা ফাঁকফোকর সঠিকভাবে প্রমাণ করতে পেরেছে।

একটি জটিল মিথ্যা নিজে থেকে খুঁজে বের করা কঠিন হলেও প্রতিপক্ষের ধরিয়ে দেওয়া মিথ্যা যাচাই করা মানুষের জন্য অনেক সহজ।

৩. সাংবিধানিক এআই ও RLAIF (Constitutional AI)

অ্যানথ্রপিকের বিজ্ঞানীরা তৈরি করেছেন Constitutional AI। এখানে মানুষের বদলে কিছু লিখিত নীতিমালার একটি সংবিধান তৈরি করা হয়—যেমন অহিংসা, সত্যবাদিতা ও মানুষের স্বাধীনতার প্রতি শ্রদ্ধা। মডেলটি নিজের দেওয়া উত্তর নিজেই সংবিধানের আলোকে পরীক্ষা করে এবং কোনো ভুল থাকলে নিজেই নিজেকে সংশোধন করে নিখুঁত করে নেয়। এর ফলে এআই মেধার পাশাপাশি নিজের নৈতিক চরিত্রকেও স্বয়ংক্রিয়ভাবে সমৃদ্ধ করতে সক্ষম হয়।

শাকিল মাহমুদ সজল

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।