বিগত দুই দশক ধরে মূলধারার কম্পিউটার বিজ্ঞানীরা কৃত্রিম নিউরাল নেটওয়ার্ককে এক অপ্রয়োজনীয়, ধীরগতির ও তাত্ত্বিক ভিত্তিহীন প্রাচীন ধ্বংসাবশেষ মনে করে উপহাস করতেন। কিন্তু ২০১২ সালের অক্টোবরে সেই সব উপহাস এক নিমেষে ধূলিসাৎ হয়ে গেল। ইতালির ফ্লোরেন্স শহরে অনুষ্ঠিত কম্পিউটার ভিশন সম্মেলনে ‘অ্যালেক্সনেট’ নামের একটি ডিপ কনভোলিউশনাল নিউরাল নেটওয়ার্ক পৃথিবীর সেরা সমস্ত গতানুগতিক অ্যালগরিদমকে নির্মম ব্যবধানে চূর্ণবিচূর্ণ করে সূচনা করল আধুনিক ডিপ লার্নিংয়ের নতুন স্বর্ণযুগ।
১. বরফযুগের নির্বাসন এবং তিন সাধক
১৯৯০ এবং ২০০০-এর দশকে ডিপ নিউরাল নেটওয়ার্ক নিয়ে গবেষণা করা ছিল নিজের ক্যারিয়ার ধ্বংস করার সামিল। গবেষণা সাময়িকীগুলো ‘নিউরাল’ শব্দটি দেখলেই পেপার বাতিল করে দিত। এই চরম বৈরী পরিবেশেও তিনজন বিজ্ঞানী তাঁদের বিশ্বাসে অটল ছিলেন—জিওফ্রি হিন্টন (টরন্টো বিশ্ববিদ্যালয়), ইয়ান লেকান (নিউ ইয়র্ক বিশ্ববিদ্যালয়) এবং ইয়োশুয়া বেনজিও (মন্ট্রিল বিশ্ববিদ্যালয়)—যাঁদের আজ বিশ্ব চেনে ‘ডিপ লার্নিংয়ের তিন জনক’ হিসেবে।
তৎকালীন নিউরাল নেটওয়ার্কের প্রধান বাধা ছিল দুটি:
- ভ্যানিশিং গ্রেডিয়েন্ট সমস্যা: সিগময়েড ফাংশন ব্যবহারের কারণে পেছনের স্তরে যেতে যেতে ব্যাকপ্রোপাগেশনের ত্রুটি সংকেত শূন্যের কাছাকাছি চলে যেত, ফলে গভীর নেটওয়ার্কের প্রথম দিকের স্তরগুলো কিছুই শিখতে পারত না।
- ডেটা ও কম্পিউটিং শক্তির চরম অভাব: মিলিয়ন মিলিয়ন প্যারামিটার শেখানোর মতো বড় ডেটাসেট ছিল না, আর তৎকালীন সাধারণ সিপিইউ দিয়ে প্রশিক্ষণ দিতে কয়েক মাস লেগে যেত।
লেপটে থাকা দুটি ঐতিহাসিক স্তম্ভ
- কনভোলিউশনাল নিউরাল নেটওয়ার্ক (CNN): ১৯৯৮ সালে ইয়ান লেকান চোখের রেটিনার অনুকরণে তৈরি করেন লেনেট-৫ (LeNet-5)—যা ব্যাংকের চেকে মানুষের হাতের লেখা অঙ্ক নির্ভুলভাবে পড়তে পারত।
- লং শর্ট-টার্ম মেমোরি (LSTM): ১৯৯৭ সালে সেপ হকরাইটার এবং ইয়ুর্গেন শমিডহুবার রিকারেন্ট নিউরাল নেটওয়ার্কের জন্য উদ্ভাবন করেন এলএসটিএম—যা মেমোরি সেল ও গেটের সাহায্যে দীর্ঘস্থায়ী সিকোয়েন্স মনে রাখতে পারত।
২. ফেই-ফেই লি এবং ইমেজনেট (ImageNet)
২০০৬ সালে প্রিন্সটন বিশ্ববিদ্যালয়ের তরুণ অধ্যাপক ফেই-ফেই লি বুঝতে পারলেন যে পুরো কম্পিউটার ভিশন জগৎ ভুল পথে হাঁটছে। সবাই ভালো অ্যালগরিদম বানানোর চেষ্টা করছিল মাত্র কয়েকশত ছবির ওপর ভিত্তি করে। ফেই-ফেই লি বললেন: বাস্তব পৃথিবী কেবল ২০টি জিনিসে সীমাবদ্ধ নয়; এখানে রয়েছে হাজার হাজার বস্তু!
তিনি এবং তাঁর দল ইন্টারনেট থেকে ১ কোটি ৪০ লাখেরও বেশি ছবির বিশাল ভাণ্ডার গড়ে তুললেন এবং অ্যামাজন মেকানিক্যাল তুর্কের মাধ্যমে বিশ্বজুড়ে ৫০,০০০ কর্মীর সাহায্যে প্রতিটি ছবিতে ট্যাগ লাগালেন। ২০১০ সাল থেকে শুরু হলো বিশ্বখ্যাত ইমেজনেট প্রতিযোগিতা (ILSVRC)—যেখানে ১,০০০টি বিভিন্ন ক্যাটাগরির ১২ লাখ ছবি চেনার চ্যালেঞ্জ দেওয়া হতো।
৩. এনভিডিয়া কুডা (CUDA): অপ্রত্যাশিত সুপারকম্পিউটার
২০০৬ সালে গ্রাফিক্স কার্ড নির্মাতা কোম্পানি এনভিডিয়া (NVIDIA)-র প্রধান জেনসেন হুয়াং এক মহাঝুঁকিপূর্ণ সিদ্ধান্ত নিলেন: তাঁরা তৈরি করলেন কুডা (CUDA) আর্কিটেকচার।
কুডা সাধারণ ভিডিও গেমের থ্রি-ডি গ্রাফিক্স কার্ডকে রূপান্তর করল এক দানবীয় সমান্তরাল সুপারকম্পিউটারে। যেখানে একটি দামি ইন্টেল প্রসেসরে ছিল মাত্র ৪ থেকে ৮টি কোর, সেখানে একটি এনভিডিয়া জিপিইউতে ছিল হাজার হাজার ছোট ছোট সমান্তরাল গাণিতিক ইউনিট—যা নিউরাল নেটওয়ার্কের বিশাল ম্যাট্রিক্স গুণন সেকেন্ডের ভগ্নাংশে সমাধান করতে পারত!
৪. অ্যালেক্সনেট (AlexNet, ২০১২): ডিপ লার্নিংয়ের মহাবিস্ফোরণ
২০১২ সালের গ্রীষ্মে টরন্টো বিশ্ববিদ্যালয়ের ছাত্র অ্যালেক্স ক্রিজেভস্কি এবং ইলিয়া সুৎসকেভার, তাঁদের শিক্ষক জিওফ্রি হিন্টনের তত্ত্বাবধানে তৈরি করলেন ৮-স্তরের একটি ডিপ সিএনএন: অ্যালেক্সনেট (AlexNet)।
ক্রিজেভস্কি দুটি সাধারণ গেমিং গ্রাফিক্স কার্ডের (NVIDIA GeForce GTX 580) মেমোরির সাথে সমন্বয় করে সরাসরি অ্যাসেম্বলি স্তরের কুডা কোড লিখলেন। অ্যালেক্সনেট চারটি আধুনিক প্রযুক্তির সংমিশ্রণ ঘটিয়েছিল:
- রেলু অ্যাক্টিভেশন (ReLU): $f(x) = \max(০, x)$—যা ভ্যানিশিং গ্রেডিয়েন্ট সমস্যা চিরতরে দূর করে ৬ গুণ দ্রুত প্রশিক্ষণ নিশ্চিত করে।
- ড্রপআউট (Dropout): প্রশিক্ষণের সময় দৈবচয়নে ৫০% নিউরন বন্ধ রাখা হতো, যাতে নেটওয়ার্ক মুখস্থ না করে আসল প্যাটার্ন শেখে।
- ডেটা অগমেন্টেশন: ছবিগুলোকে কেটে, উল্টে দিয়ে ডেটাসেটকে কৃত্রিমভাবে ২,০৪৮ গুণ বড় করা হয়।
ফ্লোরেন্সের সেই ঐতিহাসিক দিন
২০১২ সালের অক্টোবরে যখন ইমেজনেট প্রতিযোগিতার ফলাফল ঘোষণা করা হলো, তখন পুরো বিজ্ঞান বিশ্ব বিস্ময়ে স্তব্ধ হয়ে গেল:
- দ্বিতীয় স্থান (বিগত বিশ বছরের সেরা গতানুগতিক অ্যালগরিদম): ২৬.২% ভুল (Error Rate)।
- প্রথম স্থান (অ্যালেক্সনেট): ১৫.৩% ভুল।
একটি ডিপ নিউরাল নেটওয়ার্ক পৃথিবীর সেরা সমস্ত মডেলকে ১০.৯ শতাংশ পয়েন্টের অবিশ্বাস্য ব্যবধানে পরাজিত করল! মুহূর্তের মধ্যে মানুষের হাত দিয়ে লেখা সমস্ত অ্যালগরিদম অপ্রয়োজনীয় আবর্জনায় পরিণত হলো। গুগল, ফেসবুক, মাইক্রোসফট তাদের সমস্ত অর্থ ডিপ লার্নিং গবেষণায় ঢেলে দিল। শুরু হলো আজকের এআই বিপ্লবের অপ্রতিরোধ্য অভিযাত্রা।
প্রধান একাডেমিক তথ্যসূত্র
- Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. NeurIPS, 25, 1097–1105.
- LeCun, Y., et al. (1998). Gradient-based learning applied to document recognition. Proc. IEEE, 86(11), 2278–2324.
- Deng, J., et al. (2009). ImageNet: A large-scale hierarchical image database. CVPR, 248–255.
- Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural Computation, 9(8), 1735–1780.
