ফ্রন্টিয়ার এআই: স্বায়ত্তশাসিত এজেন্ট, অ্যালাইনমেন্ট ও এজিআই দিগন্ত (পর্ব ১৫): অ্যাডভারসারিয়াল সহনশীলতা ও জেলব্রেক — জিসিজি সাফিক্স ও অ্যাক্টিভেশন স্টিয়ারিং

বাণিজ্যিক ফ্রন্টিয়ার এআই মডেলগুলোকে নিরাপদ রাখতে কোটি কোটি ডলার খরচ করে আরএলএইচএফ ও কঠোর নিয়মাবলী দিয়ে প্রশিক্ষণ দেওয়া হয়—যাতে তারা সাইবার হামলা বা বিপজ্জনক অস্ত্রের তথ্য না দেয়। তবুও এই সুবিশাল মডেলগুলো অ্যাডভারসারিয়াল আক্রমণ ও জেলব্রেক (Jailbreaks)-এর মুখে অবিশ্বাস্যরকম ভঙ্গুর। নিউরাল ভেক্টরের উচ্চ-মাত্রিক জ্যামিতিকে কাজে লাগিয়ে Greedy Coordinate Gradient (GCG) এবং অ্যাক্টিভেশন স্টিয়ারিংয়ের মাধ্যমে গবেষকরা প্রকাশ করেছেন কৃত্রিম বুদ্ধিমত্তার সুরক্ষার সূক্ষ্ম ফাটলগুলো।

১. জিসিজি (GCG) ইউনিভার্সাল সাফিক্স অ্যাটাক

২০২৩ সালে কার্নেগি মেলন বিশ্ববিদ্যালয়ের গবেষকরা GCG আক্রমণ উদ্ভাবন করেন। ক্ষতিকর কোনো প্রশ্নের শেষে বিশেষ কিছু এলোমেলো চিহ্ন ও অক্ষরের লেজ (Suffix) এমনভাবে অপটিমাইজ করা হয় যা মডেলের নিরাপত্তা ফিল্টারকে অন্ধ করে দেয়। মডেলটি বাধ্য হয়ে “Sure, here is how…” লিখে বিপজ্জনক তথ্য দিতে শুরু করে। এই পদ্ধতি প্রায় সমস্ত শীর্ষস্থানীয় মডেলে সফলভাবে নিরাপত্তা ব্যবস্থা ভেঙে ফেলতে সক্ষম হয়।

২. মেনি-শট (Many-Shot) কনটেক্সট জেলব্রেক

২০২৪ সালে অ্যানথ্রপিক আবিষ্কার করে যে বড় কনটেক্সট উইন্ডো থাকলে কোনো জটিল কোড ছাড়াই জেলব্রেক করা সম্ভব। প্রম্পটের ভেতর শত শত কৃত্রিম প্রশ্ন-উত্তরের উদাহরণ সাজিয়ে দিলে মডেলের ইন-কনটেক্সট লার্নিং ক্ষমতা তার নিরাপত্তা প্রশিক্ষণকে ছাপিয়ে যায় এবং সে যেকোনো নিষিদ্ধ নির্দেশ পালন করতে শুরু করে।

৩. রিফিউজাল ভেক্টর ও স্টিয়ারিং

গবেষণায় দেখা গেছে যে মডেলের সমস্ত নিরাপত্তা প্রশিক্ষণ মূলত তার অভ্যন্তরীণ নিউরনে একটিমাত্র গাণিতিক দিক ভেক্টরের ($mathbf{v}_{text{refusal}}$) ওপর দাঁড়িয়ে আছে। অস্ত্রোপচারের মতো সেই একমাত্র দিকটি ওজন থেকে বিয়োগ করে দিলে মডেলটির সমস্ত নিরাপত্তা চেতনা তৎক্ষণাৎ বিলুপ্ত হয়ে যায়। আবার বিপরীতভাবে, ইনফারেন্সের সময় সেই ভেক্টরের মান বাড়িয়ে দিলে (Activation Steering) যেকোনো আক্রমণ সত্ত্বেও মডেলকে শতভাগ সুরক্ষিত রাখা সম্ভব হয়।

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।