কগনিটিভ সায়েন্স ও কম্পিউটেশনাল ভাষাতত্ত্ব (পর্ব ১০): ভেক্টর সেমান্টিক্স ও ওয়ার্ড এমবেডিং

ভাষাতাত্ত্বিক জে.আর. ফার্থের বিখ্যাত উক্তি ছিল: “একটি শব্দকে চেনা যায় তার আশেপাশের বন্ধুদের দেখে।” ঐতিহ্যবাহী প্রতীকী ব্যাকরণে শব্দগুলোকে বিচ্ছিন্ন একক ধরা হলেও ভেক্টর সেমান্টিক্স শব্দগুলোকে বহুমাত্রিক ধারাবাহিক জ্যামিতিক স্থানে (Dense Vector Space) রূপান্তর করে মানুষের অর্থবোধের এক গভীর কোয়ান্টাম রূপ প্রকাশ করেছে।

১. ডিস্ট্রিবিউশনাল হাইপোথিসিস ও ভেক্টর স্পেস

প্রচলিত ওয়ান-হট এনকোডিংয়ে প্রতিটি শব্দ একে অপরের সাথে লম্ব ((mathbf{w}_1 cdot mathbf{w}_2 = 0)) থাকায় তাদের পারস্পরিক অর্থগত মিল বোঝা অসম্ভব ছিল। ডিস্ট্রিবিউশনাল হাইপোথিসিসের মূল কথা হলো: যেসব শব্দ একই ধরণের বাক্যাংশে ব্যবহৃত হয়, তাদের অর্থও কাছাকাছি। শব্দের অর্থকে ৩০০-মাত্রিক বাস্তব সংখ্যার ভেক্টরে প্রকাশ করলে কোসাইন সাদৃশ্য (Cosine Similarity) দ্বারা অর্থের নৈকট্য পরিমাপ করা যায়:

[
ext{Cosine}(mathbf{u}, mathbf{v}) = rac{mathbf{u} cdot mathbf{v}}{|mathbf{u}| |mathbf{v}|}
]

২. মিকোলোভের Word2Vec (Skip-Gram with Negative Sampling)

২০১৩ সালে গুগলের টমাস মিকোলোভ প্রবর্তন করেন Word2Vec। এর স্কিপ-গ্রাম মডেলে একটি কেন্দ্রীয় টার্গেট শব্দ থেকে তার আশেপাশের কনটেক্সট শব্দ অনুমানের চেষ্টা করা হয়। সম্পূর্ণ শব্দকোষের জন্য সফটম্যাক্স গণনা অত্যন্ত ব্যয়বহুল হওয়ায় ব্যবহৃত হয় নেগেটিভ স্যাম্পলিং (SGNS):

[
mathcal{L}_{ ext{SGNS}} = ln sigma(mathbf{v}_c^ op mathbf{v}_w) + sum_{i=1}^k ln sigma(-mathbf{v}_{n_i}^ op mathbf{v}_w)
]

এটি সত্য শব্দজোড়ার সম্ভাবনা বাড়িয়ে দেয় এবং যদৃচ্ছভাবে নির্বাচিত নয়েজ শব্দের সম্ভাবনা কমিয়ে দ্রুততম সময়ে নিখুঁত ভেক্টর তৈরি করে।

৩. স্ট্যানফোর্ডের গ্লোভ (GloVe)

২০১৪ সালে স্ট্যানফোর্ড বিশ্ববিদ্যালয় প্রবর্তন করে গ্লোভ (Global Vectors), যা স্থানীয় উইন্ডো এবং সম্পূর্ণ কর্পাসের গ্লোবাল কো-অকারেন্স ম্যাট্রিক্সের সমন্বয়ে স্কয়ার্ড-এরর লস অপটিমাইজেশনের মাধ্যমে কাজ করে।

৪. ভেক্টর পাটিগণিত ও উপমা (Vector Analogies)

ওয়ার্ড এমবেডিংয়ের সবচেয়ে বিস্ময়কর ঘটনা হলো ভেক্টর স্পেসে মানুষের ধারণার জ্যামিতিক প্রতিফলন। ভেক্টর যোগ-বিয়োগের মাধ্যমে জটিল মানবিক সম্পর্ক নিখুঁতভাবে প্রকাশ পায়:

[
mathbf{v}_{ ext{রাজা}} – mathbf{v}_{ ext{পুরুষ}} + mathbf{v}_{ ext{নারী}} approx mathbf{v}_{ ext{রানী}}
]

এই সরল রৈখিক রূপান্তর প্রমাণ করে যে ভাষার পরিসংখ্যানিক পুনরাবৃত্তির গভীরে মানুষের মনের বিমূর্ত ভাবনার এক নিখুঁত জ্যামিতিক জগৎ লুকায়িত রয়েছে।

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।