কগনিটিভ সায়েন্স ও কম্পিউটেশনাল ভাষাতত্ত্ব (পর্ব ১৩): পিসিএফজি ও ইনসাইড-আউটসাইড অ্যালগরিদম

প্রচলিত কনটেক্সট-ফ্রি ব্যাকরণ কেবল বাক্যটি সঠিক কি না তা বলতে পারে, কিন্তু একই বাক্যের একাধিক ব্যাকরণিক ব্যাখ্যার মধ্যে কোনটি সবচেয়ে স্বাভাবিক ও গ্রহণযোগ্য তা নির্ধারণ করতে পারে না। প্রোবাবিলিস্টিক কনটেক্সট-ফ্রি ব্যাকরণ (PCFG) প্রতিটি নিয়মের সাথে সম্ভাবনা যুক্ত করে সেরা পার্স ট্রি নির্বাচন এবং ইনসাইড-আউটসাইড অ্যালগরিদমের মাধ্যমে স্বয়ংক্রিয় ব্যাকরণ প্রশিক্ষণ সম্ভব করে।

১. প্রোবাবিলিস্টিক কনটেক্সট-ফ্রি ব্যাকরণ (PCFG)

PCFG-তে প্রতিটি নন-টার্মিনাল থেকে উৎপন্ন নিয়মের সম্ভাবনার সমষ্টি এক হতে হয় ((sum P(A o alpha) = 1))। একটি সম্পূর্ণ পার্স ট্রির সম্ভাবনা হলো তার ব্যবহৃত সমস্ত নিয়মের সম্ভাবনার গুণফল:

[
P(T, W) = prod_{i=1}^k P(A_i o alpha_i)
]

২. সম্ভাব্যতামূলক CYK পার্সিং

দ্ব্যর্থক বাক্যের ক্ষেত্রে সবচেয়ে সম্ভাব্য পার্স ট্রি (hat{T}) খুঁজে বের করতে CYK টেবিলকে সম্ভাব্যতার মানে রূপান্তর করা হয়:

[
pi[i, j, A] = max_{k} max_{A o B C} left[ P(A o B C) imes pi[i, k, B] imes pi[k, j, C]
ight]
]

সর্বোচ্চ সম্ভাবনার ব্যাকপয়েন্টার সংরক্ষণ করে (mathcal{O}(n^3)) সময়ে সেরা অর্থবহ সিনট্যাক্স ট্রি তৈরি করা যায়।

৩. ইনসাইড ও আউটসাইড সম্ভাবনা

এইচএমএম-এর ফরওয়ার্ড-ব্যাকওয়ার্ডের মতো ট্রি কাঠামোর জন্য ১৯৭৯ সালে জেমস বেকার ইনসাইড-আউটসাইড অ্যালগরিদম আবিষ্কার করেন:

• ইনসাইড সম্ভাবনা ((beta)): একটি নন-টার্মিনাল নোড নিচমুখী হয়ে নির্দিষ্ট শব্দগুচ্ছ তৈরি করার সম্ভাবনা।
• আউটসাইড সম্ভাবনা ((alpha)): রুট নোড থেকে শুরু করে ঐ নির্দিষ্ট নন-টার্মিনাল বাদে বাক্যের অবশিষ্ট অংশ তৈরি হওয়ার সম্ভাবনা।

৪. এক্সপেক্টেশন-ম্যাক্সিমাইজেশন (EM)

ইনসাইড ও আউটসাইড সম্ভাবনার গুণফল থেকে কোনো সুপারভাইজড ট্রি-ব্যাংক ছাড়াই কাঁচা টেক্সট থেকে প্রত্যাশিত গণনার (Expected Count) মাধ্যমে ব্যাকরণের নিয়মের সম্ভাবনা আপডেট করা হয়। এই পদ্ধতিটি ভাষা অর্জনকারী শিশুর অবচেতন ব্যাকরণ গঠন প্রক্রিয়ার সাথে গভীরভাবে সাদৃশ্যপূর্ণ।

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।