১৯৮৬ সালের অক্টোবর মাসে, যখন প্রতীকী এআই তার দ্বিতীয় শীতকালের মুখোমুখি, তখন এমআইটি প্রেস থেকে নীল রঙের মলাটের দুটি অসাধারণ খণ্ড প্রকাশিত হয়: প্যারালাল ডিস্ট্রিবিউটেড প্রসেসিং (PDP)। ডেভিড রুমেলহার্ট, জেমস ম্যাকক্লেল্যান্ড এবং পিডিপি গ্রুপের এই কাজ—বিশেষ করে জেফ্রি হিন্টন ও রোনাল্ড উইলিয়ামসের সাথে যৌথভাবে লেখা নেচার গবেষণাপত্র—কম্পিউটার বিজ্ঞানের ইতিহাসে সর্বশ্রেষ্ঠ প্রত্যাবর্তনের জন্ম দেয়: এরর ব্যাকপ্রোপাগেশন (Backpropagation) অ্যালগরিদমের পুনঃআবিষ্কার।

১. ক্রেডিট অ্যাসাইনমেন্ট সংকট

মিনস্কি ও প্যাপার্টের ১৯৬৯ সালের সমালোচনার পর দীর্ঘ সতেরো বছর নিউরাল নেটওয়ার্ক গবেষণা আটকে ছিল একটি মাত্র গাণিতিক ধাঁধাঁয়, যার নাম ক্রেডিট অ্যাসাইনমেন্ট সমস্যা। একটি বহু-স্তরের নেটওয়ার্কে থাকে ইনপুট স্তর, মধ্যবর্তী কিছু লুকায়িত স্তর (Hidden Layers) এবং আউটপুট স্তর:

$$mathbf{h} = sigma(mathbf{W}_1 mathbf{x} + mathbf{b}_1), quad hat{mathbf{y}} = sigma(mathbf{W}_2 mathbf{h} + mathbf{b}_2)$$

যখন আউটপুটে কোনো ভুল হতো, তখন সেই ভুলের জন্য ভেতরের কোন লুকায়িত নিউরনটির ওজন কতটা দায়ী, তা বের করার কোনো সূত্র জানা ছিল না। যেহেতু ভেতরের নিউরনগুলোর জন্য কোনো ‘সঠিক উত্তর’ ডেটায় দেওয়া থাকত না, তাই রোজেনব্ল্যাটের নিয়ম সেখানে অচল ছিল।

২. ব্যাকপ্রোপাগেশনের গাণিতিক সমাধান

রুমেলহার্ট, হিন্টন এবং উইলিয়ামস এই অচলাবস্থা ভাঙলেন স্টেপ ফাংশনের বদলে মসৃণ ও ডিফারেনশিয়েবল সিগময়েড ফাংশন (Sigmoid Function) ব্যবহার করে:

$$sigma(z) = rac{1}{1 + e^{-z}}, quad rac{dsigma}{dz} = sigma(z)(1 – sigma(z))$$

যেহেতু এই ফাংশনের ব্যবকলন বা ডেরিভেটিভ সর্বত্র সম্ভব, তাই ক্যালকুলাসের চেইন রুল (Chain Rule) ব্যবহার করে যেকোনো ভেতরের ওজনের সাপেক্ষে ভুলের পরিবর্তনের হার নিখুঁতভাবে পরিমাপ করা সম্ভব হলো:

$$rac{partial E}{partial w_{ij}} = rac{partial E}{partial z_j} rac{partial z_j}{partial w_{ij}} = delta_j x_i$$

আউটপুট নিউরনের ত্রুটি সংবেদনশীলতা $delta_k$ নির্ণয় করা হয় সরাসরি। আর লুকায়িত নিউরন $j$-এর ত্রুটি সংবেদনশীলতা $delta_j$ নির্ণয় করা হয় পরবর্তী স্তরের সংবেদনশীলতাকে পেছনের দিকে (Backward) সঞ্চালিত করে:

$$delta_j = sigma'(z_j) sum_{k} w_{jk} delta_k$$

এরপর গ্রেডিয়েন্ট ডিসেন্টের মাধ্যমে ওজনের মান হালনাগাদ করা হয়:

$$w_{ij} leftarrow w_{ij} – eta rac{partial E}{partial w_{ij}}$$

৩. এক্সওআর (XOR) জটের চূর্ণবিচূর্ণ রূপ

অ্যালগরিদমের শক্তি প্রদর্শনের জন্য তাঁরা কুখ্যাত এক্সওআর সমস্যাটি এই মডেলে দিলেন। মাত্র কয়েকশ ইটারেশনের মধ্যেই নেটওয়ার্কের দুটি লুকায়িত নিউরন চমৎকার দুটি অভ্যন্তরীণ বৈশিষ্ট্য নিজে নিজে শিখে নিল:

  • প্রথম নিউরনটি পরিণত হলো একটি OR গেট-এ (যেকোনো একটি ইনপুট চালু থাকলে ফায়ার করে)।
  • দ্বিতীয় নিউরনটি পরিণত হলো একটি NAND গেট-এ (উভয় ইনপুট চালু না থাকলে ফায়ার করে)।
  • আর আউটপুট নিউরনটি কেবল এদের সংযোগ হিসাব করে মুহূর্তে নিখুঁত এক্সওআর উত্তর দিতে শুরু করল!

যে এক্সওআর সংকটে এআই গবেষণা ২০ বছর পিছিয়ে গিয়েছিল, তা সেকেন্ডের মধ্যে সমাধান হয়ে গেল। প্রমাণিত হলো—মানুষকে নিয়ম লিখে দিতে হয় না; সঠিক লস ফাংশন পেলে নিউরাল নেটওয়ার্ক নিজেই মহাবিশ্বের গাণিতিক নিয়ম আবিষ্কার করে নিতে পারে।

৪. হপফিল্ড নেটওয়ার্ক ও বোল্টজম্যান মেশিন

পদার্থবিজ্ঞানের সাথে এই ধারণার মিলন ঘটালেন ক্যালটেকের পদার্থবিদ জন হপফিল্ড (John Hopfield)। ১৯৮২ সালে তিনি হপফিল্ড নেটওয়ার্ক তৈরি করেন, যা প্রমাণ করে যে নিউরাল মেমোরি মূলত পদার্থবিজ্ঞানের স্পিন-গ্লাস মডেলের মতো এনার্জি মিনিমাইজেশন প্রক্রিয়া। এর ওপর ভিত্তি করে হিন্টন ও সেজনোস্কি তৈরি করলেন বোল্টজম্যান মেশিন (1985)।

৫. নেটটক (NETtalk): নতুন যুগের কণ্ঠস্বর

১৯৮৬ সালে টেরি সেজনোস্কি তৈরি করলেন নেটটক—একটি নিউরাল নেটওয়ার্ক যা ইংরেজি লেখা দেখে নিজে নিজে মানুষের মতো কথা বলা শিখত। শুরুতে এটি শিশুর মতো অস্পষ্ট বকবক করত, কিন্তু কয়েক ঘণ্টার প্রশিক্ষণের পর এটি নিখুঁত ব্যাকরণ ও উচ্চারণে স্পষ্ট ইংরেজি বলতে শুরু করল। সংযোগবাদী বিপ্লবের সূচনা হলো; কৃত্রিম বুদ্ধিমত্তা প্রতীকী রুল থেকে সরে এসে পা রাখল অবিচ্ছিন্ন গাণিতিক ভেক্টরের বাস্তব জগতে।

শাকিল মাহমুদ সজল

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।