বিগত ছয় দশক ধরে ডিপ নিউরাল নেটওয়ার্ককে একটি দুর্বোধ্য “ব্ল্যাক বক্স” মনে করা হতো—কোটি কোটি সংখ্যার জটিল জটলা যা কোনো এক অলৌকিক উপায়ে বুদ্ধিমান আচরণ প্রদর্শন করে। মেকানিস্টিক ইন্টারপ্রিটেবিলিটি (Mechanistic Interpretability) কৃত্রিম বুদ্ধিমত্তার এই রহস্যের পর্দা উন্মোচন করেছে। এটি নিউরাল নেটওয়ার্ককে কম্পিউটার প্রসেসরের সার্কিটের মতো বিবেচনা করে প্রতিটি তার, লজিক গেট এবং মেমরি বাসের কার্যপ্রণালী পুঙ্খানুপুঙ্খভাবে রিভার্স-ইঞ্জিনিয়ারিং করে ব্যাখ্যা করে।

১. রেসিড্যুয়াল স্ট্রিম: যোগাযোগের হাইওয়ে

২০২১ সালে নিল নন্দা ও অ্যানথ্রপিকের গবেষকরা দেখান যে ট্রান্সফরমারের রেসিড্যুয়াল স্ট্রিম হলো একটি দীর্ঘ তথ্যের হাইওয়ে:

mathbf{x}_L = mathbf{x}_0 + sum_{l=1}^L text{Attn}_l(mathbf{x}_{l-1}) + sum_{l=1}^L text{MLP}_l(mathbf{x}_{l-1})

কোনো স্তর পূর্ববর্তী তথ্য নষ্ট করে না; তারা কেবল সেই হাইওয়ে থেকে নিজেদের প্রয়োজনীয় তথ্য পড়ে নেয় এবং নতুন প্রাপ্ত সিদ্ধান্ত যোগ করে দেয়। অ্যাটেনশন হেডগুলো কাজ করে তথ্যের স্থানান্তরকারী হিসেবে এবং MLP স্তরগুলো কাজ করে তথ্যভাণ্ডার হিসেবে।

২. QK এবং OV সার্কিটের গাণিতিক বিভাজন

প্রতিটি অ্যাটেনশন হেড দুটি স্বাধীন কাজ করে:

  • QK সার্কিট: সিদ্ধান্ত নেয় কোন শব্দের দিকে মনোযোগ দিতে হবে (কোথায় তাকাতে হবে)।
  • OV সার্কিট: সেই শব্দ থেকে কী তথ্য সংগ্রহ করে বর্তমান শব্দের সাথে যুক্ত করতে হবে তা নির্ধারণ করে।

৩. অ্যাক্টিভেশন প্যাচিং (Activation Patching)

কোনো নির্দিষ্ট নিউরন বা স্তর আসলেই একটি বিশেষ কাজের জন্য দায়ী কি না তা নিশ্চিত করতে মস্তিষ্কের নিউরোসার্জারির মতো অ্যাক্টিভেশন প্যাচিং করা হয়। একটি ভুল প্রম্পটের ভেতর নির্দিষ্ট একটি নিউরনের মান পরিবর্তন করে সঠিক প্রম্পটের মান বসিয়ে দিলে দেখা যায় মডেলের উত্তর সাথে সাথে বদলে গেছে। এর মাধ্যমে প্রমাণিত হয়েছে যে নিউরাল নেটওয়ার্ক কোনো এলোমেলো জটলা নয়; বরং এটি অত্যন্ত সুশৃঙ্খল যৌক্তিক অ্যালগরিদমের সংকলন।

শাকিল মাহমুদ সজল

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।