নিউরোমরফিক ইঞ্জিনিয়ারিং ও ব্রেন-মেশিন ইন্টারফেস (পর্ব ১৮): নিউরোমরফিক লার্জ ল্যাঙ্গুয়েজ মডেল: স্পাইকিং ট্রান্সফরমার, ইভেন্ট-চালিত অ্যাটেনশন ও শতগুণ শক্তি-দক্ষতা

লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) কৃত্রিম বুদ্ধিমত্তার মানচিত্র বদলে দিলেও এর বিশাল বিদ্যুৎ ক্ষুধা পরিবেশ ও প্রযুক্তির জন্য হুমকি হয়ে উঠেছে। কোটি কোটি প্রম্পটের উত্তরে ৭০ বিলিয়ন প্যারামিটারের মডেল চালাতে ডেটা সেন্টারে মেগাওয়াট বিদ্যুৎ খরচ হয়, যার পেছনে মূল কারণ হলো মাল্টি-হেড সেলফ-অ্যাটেনশনের কোটি কোটি ফ্লোটিং-পয়েন্ট গুণন (MAC)। এই সংকটের যুগান্তকারী সমাধান হিসেবে আত্মপ্রকাশ করেছে স্পাইকিং লার্জ ল্যাঙ্গুয়েজ মডেল (Spiking LLMs) বা স্পাইকিং ট্রান্সফরমার।

১. ফ্লোটিং পয়েন্ট গুণনের অবসান

সাধারণ ট্রান্সফরমারে (Q, K, V) ম্যাট্রিক্সের গুণন করতে কোটি কোটি গুণন (Multiplication) অপারেশন লাগে, যা সাধারণ যোগের চেয়ে ১০ গুণ বেশি শক্তি নষ্ট করে। স্পাইকিং ট্রান্সফরমারে এই টোকেনগুলো বাইনারি স্পাইক (০ এবং ১)-এ পরিণত হয়। বাইনারি স্পাইক দিয়ে গুণ করা মানে হলো কেবল গেট খোলা বা বন্ধ রাখা—ফলে কোনো গুণন অপারেশনই লাগে না, শুধু সাধারণ যোগফল (Addition) দিয়েই সম্পূর্ণ ট্রান্সফরমার পরিচালিত হয়।

২. ৯৫% স্পার্সিটি ও ৫০ গুণ শক্তি সাশ্রয়

স্পাইকিং অ্যাটেনশনে প্রায় ৯০-৯৫% উপাদানই শূন্য থাকে। নিউরোমরফিক চিপে শূন্য আসার অর্থ হলো কোনো ট্রানজিস্টর সুইচ হবে না—ফলে শক্তি খরচ ৯৮% পর্যন্ত হ্রাস পায়। এর ফলে ভবিষ্যতে ক্লাউড ডেটা সেন্টারের বিশাল সুপারকম্পিউটার ছাড়াই আপনার হাতের স্মার্টওয়াচ বা মোবাইলে স্থানীয়ভাবে বিশাল এলএলএম চালানো সম্ভব হবে।

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।