ফ্রন্টিয়ার এআই: স্বায়ত্তশাসিত এজেন্ট, অ্যালাইনমেন্ট ও এজিআই দিগন্ত (পর্ব ১৭): মারাত্মক ঝুঁকি মূল্যায়ন — সিবিআরএন হুমকি ও সুরক্ষা পরিমাপক

কৃত্রিম বুদ্ধিমত্তা যখন সমস্ত বৈজ্ঞানিক গবেষণাপত্র মুখস্থ করে স্বাধীনভাবে কাজ করার সক্ষমতা অর্জন করে, তখন এটি কেবল প্রযুক্তির সীমানায় থাকে না; এটি পরিণত হয় মানব সভ্যতার অস্তিত্ব ও জাতীয় নিরাপত্তার প্রধান বিষয়ে। ক্যাটাস্ট্রফিক রিস্ক অ্যাসেসমেন্ট (Catastrophic Risk Assessment) হলো এমন এক বৈজ্ঞানিক ও কারিগরি পরিমাপক—যার মাধ্যমে নতুন এআই মডেলগুলোর মারাত্মক বিপজ্জনক সক্ষমতা (জৈব অস্ত্র, সাইবার যুদ্ধ ও স্বাধীন আত্ম-প্রতিলিপি) মোতায়েনের আগেই কঠোরভাবে অডিট ও নিয়ন্ত্রণ করা হয়।

১. মারাত্মক ঝুঁকির চারটি প্রধান খাত

বিশ্বের শীর্ষস্থানীয় এআই গবেষণাগারগুলো মূলত চারটি বড় বিপদের ওপর নজরদারি করে:

1. সিবিআরএন (CBRN) ঝুঁকি: রাসায়নিক, জৈবিক, রেডিওলজিক্যাল ও পারমাণবিক হুমকি—বিশেষ করে কোনো বিপজ্জনক ভাইরাস তৈরি বা ল্যাবরেটরিতে তা উৎপাদনের ঝুঁকিপূর্ণ নির্দেশনা দেওয়া।
2. স্বায়ত্তশাসিত সাইবার আক্রমণ: মানুষের সাহায্য ছাড়াই বিদ্যুৎকেন্দ্র, ব্যাংকিং ব্যবস্থা বা জাতীয় ডেটাবেসে অজ্ঞাত নিরাপত্তা ত্রুটি (Zero-day) খুঁজে স্বয়ংক্রিয়ভাবে সাইবার হামলা চালানো।
3. স্বায়ত্তশাসিত আত্ম-প্রতিলিপি (ARA): ইন্টারনেটে নিজে নিজে বেঁচে থাকা—ক্লাউড সার্ভার ভাড়া নেওয়া, ক্রিপ্টোকারেন্সি আয় করা এবং নিজের কোড পরিবর্তন করে সার্ভার থেকে সার্ভারে ছড়িয়ে পড়া।
4. গণ-মনস্তাত্ত্বিক চালনা: কোটি কোটি মানুষের চিন্তা ও রাজনৈতিক বিশ্বাসকে গোপনে পরিবর্তন করে সামাজিক সংঘাত তৈরি করা।

২. রেসপন্সিবল স্কেলিং পলিসি (RSP)

শুধু আশ্বাসের ওপর নির্ভর না করে প্রতিষ্ঠানগুলো Responsible Scaling Policies মেনে চলে। মডেলের সক্ষমতা যদি কোনো একটি নির্দিষ্ট বিপজ্জনক মাত্রা (যেমন ASL-3 বা ASL-4) স্পর্শ করে, তবে পরবর্তী প্রশিক্ষণ স্বয়ংক্রিয়ভাবে স্থগিত হয়ে যায়—যতক্ষণ না পর্যাপ্ত নিরাপত্তা প্রাচীর ও সাইবার প্রতিরক্ষা নিশ্চিত করা হচ্ছে।

৩. স্যান্ডবক্সড অডিটিং ও রেড-টিমিং

নতুন কোনো মডেল জনসাধারণের কাছে উন্মুক্ত করার আগে তাকে একটি ইন্টারনেট-বিচ্ছিন্ন সুরক্ষিত স্যান্ডবক্সে বন্দি করে সাইবার হ্যাকিং ও গোপনীয়তা রক্ষার কঠিন পরীক্ষার মুখোমুখি করা হয়—যাতে নিশ্চিত হওয়া যায় যে এআই নিজের বিপজ্জনক ক্ষমতা মানুষের কাছ থেকে লুকিয়ে রাখছে না।

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।