আশির দশকের শেষের দিকে সাধারণ ফুল্লি-কানেক্টেড নিউরাল নেটওয়ার্কগুলো ছবি চেনার ক্ষেত্রে এক মারাত্মক বাধার মুখে পড়ে। একটি মাত্র $১০০ imes ১০০$ পিক্সেলের সাধারণ ছবিতে থাকে ১০,০০০ ইনপুট; একে ভেতরের মাত্র ১,০০০ নিউরনের সাথে জুড়তে গেলেই ১ কোটি ওজনের প্রয়োজন হতো! এর ফলে কম্পিউটারের মেমোরি উপচে পড়ত এবং ছবিতে বস্তু সামান্য একটু সরে গেলেই পুরো নেটওয়ার্ক বিভ্রান্ত হয়ে যেত। এই সংকটের সমাধান এলো মানুষের চোখের দৃষ্টির এক চমৎকার জীববৈজ্ঞানিক কাঠামো থেকে: কনভোলিউশনাল নিউরাল নেটওয়ার্ক (CNN)।
১. হিউবেল ও উইসেলের নোবেলজয়ী আবিষ্কার
হার্ভার্ড মেডিকেল স্কুলের গবেষক ডেভিড হিউবেল এবং টর্স্টেন উইসেল বিড়ালের মস্তিষ্কের প্রাথমিক ভিজ্যুয়াল কর্টেক্সে (V1) গবেষণা চালিয়ে দেখান যে চোখ পুরো দৃশ্যকে একসাথে এক স্তরে প্রসেস করে না। দৃষ্টির স্নায়ুগুলো ধাপে ধাপে স্তরবিন্যস্তভাবে কাজ করে:
- সিম্পল সেল (Simple Cells): যা কেবল ছোট জায়গায় নির্দিষ্ট কোণের সরলরেখা বা কিনারা (Edges) দেখতে পায়।
- কমপ্লেক্স সেল (Complex Cells): যা একাধিক সিম্পল সেলের তথ্য একত্রিত করে বস্তুর সামান্য নড়াচড়া সত্ত্বেও রেখা শনাক্ত করতে পারে।
- হাইপারকমপ্লেক্স সেল: যা একাধিক কোণ ও বিন্দুর মিলনে পূর্ণাঙ্গ জ্যামিতিক অবয়ব তৈরি করে।
২. কুনিহিকো ফুকুশিমা এবং নিওকগনিট্রন (১৯৮০)
১৯৮০ সালে জাপানি বিজ্ঞানী কুনিহিকো ফুকুশিমা তৈরি করেন নিওকগনিট্রন (Neocognitron)। তিনি দুটি স্তরের পুনরাবৃত্তি ব্যবহার করেন:
- S-কোষ স্তর: যা ছবির স্থানীয় বৈশিষ্ট্যগুলো স্ক্যান করে।
- C-কোষ স্তর: যা সাবস্যাম্পলিং বা পুলিংয়ের মাধ্যমে বস্তুর অবস্থানের পরিবর্তনকে আমলে না নিয়ে সামগ্রিক রূপ ধরে রাখে।
কিন্তু ফুকুশিমার মডেলে কোনো নির্ভরযোগ্য ব্যাকপ্রোপাগেশন অ্যালগরিদম ছিল না, ফলে এটি শেখানো ছিল অত্যন্ত দুরূহ।
৩. ইয়ান লেকান এবং লেনাট-৫ (LeNet-5)-এর জন্ম
১৯৮৯ সালে এটি অ্যান্ড টি বেল ল্যাবসের ফরাসি তরুণ গবেষক ইয়ান লেকান (Yann LeCun) ফুকুশিমার এই ভিজ্যুয়াল স্তরের সাথে ব্যাকপ্রোপাগেশনকে একীভূত করলেন। লেকান সিএনএন-এর তিনটি অমর মূলনীতি প্রতিষ্ঠা করেন:
- লোকাল রিসেপ্টিভ ফিল্ড: প্রতিটি নিউরন পুরো ছবির সাথে যুক্ত না হয়ে চোখের মতো ছোট একটি উইন্ডো ($৫ imes ৫$ পিক্সেল) পর্যবেক্ষণ করে।
- ওজন শেয়ারিং (Shared Weights): একটি একক ফিল্টারকে পুরো ছবির ওপর দিয়ে স্লাইড করে বৈশিষ্ট্য ম্যাপ তৈরি করা হয়:
$$y_{i,j} = sigma left( sum_{m} sum_{n} w_{m,n} x_{i+m, j+n} + b
ight)$$
এর ফলে ছবির বাম কোণার একটি চোখ ডান কোণায় সরে গেলেও ফিল্টারটি তা চিনতে পারে (Translation Equivariance), এবং লাখ লাখ প্যারামিটারের অপচয় বন্ধ হয়। - সাবস্যাম্পলিং বা পুলিং (Pooling): ছবির রেজোলিউশন কমিয়ে মূল জ্যামিতিক তথ্য ধরে রাখা, যাতে বস্তুর আকার বা সামান্য বিকৃতিতে মডেল বিভ্রান্ত না হয়।
৪. এমএনআইএসটি (MNIST) ও বাণিজ্যিক সাফল্য
১৯৯৮ সালে ইয়ান লেকান, যশুয়া বেঞ্জিও এবং প্যাট্রিক হ্যাফনার প্রকাশ করেন তাঁদের ঐতিহাসিক গবেষণাপত্র: লেনাট-৫ (LeNet-5)।
৭০,০০০ হাতের লেখা অঙ্কের প্রামাণ্য ডেটাসেট MNIST-এ লেনাট-৫ এর ভুলের হার নেমে আসে ১%-এর নিচে—যা তৎকালীন যেকোনো ক্লাসিক্যাল অ্যালগরিদমের চেয়ে যোজন যোজন এগিয়ে ছিল। মার্কিন যুক্তরাষ্ট্রের ডাক বিভাগ ও ব্যাংকগুলো এই নেটওয়ার্ক গ্রহণ করে; নব্বইয়ের দশকের শেষভাগে যুক্তরাষ্ট্রের মোট চেকের প্রায় ১০ থেকে ২০ শতাংশ স্বয়ংক্রিয়ভাবে প্রসেস করত লেকানের এই কনভোলিউশনাল নেটওয়ার্ক!
কিন্তু এত বড় সাফল্যের পরেও মূলধারার কম্পিউটার সায়েন্স নিউরাল নেটওয়ার্ক থেকে আবারও মুখ ফিরিয়ে নেয়। কারণ গণিতবিদরা তখন মেতে উঠেছিলেন আরও নিখুঁত গাণিতিক গ্যারান্টিযুক্ত মডেল নিয়ে: সাপোর্ট ভেক্টর মেশিন।