উচ্চ-মাত্রার স্পেসে সম্ভাব্যতা পরিমাপ করতে গেলে এক মারাত্মক গাণিতিক সংকটের সৃষ্টি হয়: $N$ সংখ্যক বাইনারি ভেরিয়েবলের যৌথ বণ্টন নির্ণয় করতে $2^N – 1$ সংখ্যক স্বাধীন প্যারামিটারের প্রয়োজন হয়, যা মাত্র ৫০টি ভেরিয়েবলেই ট্রিলিয়ন ছাড়িয়ে যায়। ১৯৮০-এর দশকের শেষভাগে জুদিয়া পার্ল এবং স্টিফেন লরিটজেন গ্রাফ থিওরি এবং সম্ভাব্যতা তত্ত্বকে একত্রিত করে আবিষ্কার করেন সম্ভাব্যতামূলক গ্রাফিক্যাল মডেল (Probabilistic Graphical Models — PGM)। গ্রাফের সংযোগরেখার মাধ্যমে শর্তাধীন স্বাধীনতার সম্পর্ক স্থাপন করে এই মডেলগুলো অসম্ভব জয়েন্ট ডিস্ট্রিবিউশনকে এক সংহত, গুণনীয়ক আকারে প্রকাশ করতে সক্ষম হয়।
১. ডিরেক্টেড গ্রাফ: বায়েসিয়ান নেটওয়ার্ক
একটি বায়েসিয়ান নেটওয়ার্ক (Bayesian Network) হলো একটি ডিরেক্টেড অ্যাসাইক্লিক গ্রাফ (DAG), যেখানে প্রতিটি নোড একটি দৈব চলক নির্দেশ করে এবং নির্দেশক তীরগুলো নির্ভরতা নির্দেশ করে। এর সামগ্রিক বণ্টন পিতা-নোডের ওপর ভিত্তি করে গুণফল আকারে ভেঙে যায়:
$$P(X_1, dots, X_N) = prod_{i=1}^N P(X_i mid text{Parents}(X_i))$$
যদি প্রতিটি নোডের সর্বোচ্চ $k$ সংখ্যক পিতা থাকে, তবে প্যারামিটার সংখ্যা সূচকীয় $O(2^N)$ থেকে এক ধাক্কায় পলিনমিয়াল $O(N cdot 2^k)$-তে নেমে আসে।
২. জুদিয়া পার্লের ডি-সেপারেশন (D-Separation)
একটি গ্রাফ থেকে কীভাবে বুঝব যে ভেরিয়েবল $A$ এবং $B$ শর্তাধীনভাবে স্বাধীন কি না? ১৯৮৮ সালে জুদিয়া পার্ল প্রণয়ন করেন ডি-সেপারেশন (d-separation) নিয়মাবলি:
- কজাল চেইন ($X to Y to Z$): $Y$ অজানা থাকলে $X$ ও $Z$-এর মধ্যে তথ্য প্রবাহিত হয়। কিন্তু $Y$-কে পর্যবেক্ষণ করলে পথটি বন্ধ হয়ে যায় ($X perp Z mid Y$)।
- সাধারণ কারণ বা ফর্ক ($X leftarrow Y to Z$): $Y$ হলো একটি যৌথ কারণ। $Y$-এর মান জানা থাকলে $X$ ও $Z$ একে অপরের থেকে সম্পূর্ণ স্বাধীন হয়ে যায়।
- কলাইডার বা যৌথ ফল ($X to Y leftarrow Z$): এটি সবচেয়ে চমকপ্রদ। স্বাভাবিক অবস্থায় $X$ ও $Z$ সম্পূর্ণ স্বাধীন ($X perp Z$)। কিন্তু যদি তাদের যৌথ ফলাফল $Y$-কে পর্যবেক্ষণ করা হয়, তবে উল্টো $X$ ও $Z$-এর মধ্যে সম্পর্ক তৈরি হয় (বার্কসনের প্যারাডক্স বা Explaining Away)!
যদি দুটি নোডের মধ্যকার সকল পথ কোনো না কোনোভাবে ব্লকড বা বিচ্ছিন্ন থাকে, তবে তারা গাণিতিকভাবে সম্পূর্ণ স্বাধীন।
৩. আনডিরেক্টেড গ্রাফ: মার্কভ র্যান্ডম ফিল্ডস (MRF)
কম্পিউটার ভিশনের পিক্সেল বা পদার্থবিজ্ঞানের কণার মতো যেখানে কোনো একমুখী কার্যকারণ নেই, সেখানে ব্যবহৃত হয় মার্কভ র্যান্ডম ফিল্ডস (MRF)। ১৯৭১ সালের বিখ্যাত হ্যামার্সলে-ক্লিফোর্ড উপপাদ্য (Hammersley-Clifford Theorem) প্রমাণ করে যে একটি পজিটিভ ডিস্ট্রিবিউশন কেবল তখনই গ্রাফের শর্তাধীন স্বাধীনতা মেনে চলবে যদি তাকে গ্রাফের ক্লিকের (Cliques) সম্ভাবনার গুণফল বা গিবস ডিস্ট্রিবিউশনে প্রকাশ করা যায়:
$$P(X) = frac{1}{Z} prod_{C} psi_C(X_C) = frac{1}{Z} expleft(-sum_C E(X_C)right)$$
এখানে $Z$ হলো নরমালাইজেশন পার্টিশন ফাংশন।
৪. পার্টিশন ফাংশন ও ইনফারেন্সের সংকট
সাধারণ গ্রাফে পার্টিশন ফাংশন $Z$ গণনা করা একটি #P-complete চরম জটিল সমস্যা। ফলে জটিল লুপযুক্ত নেটওয়ার্কে নিখুঁত সম্ভাব্যতা বের করা অসম্ভব হয়ে দাঁড়ায়। এর ফলেই জন্ম নেয় ভ্যারিয়েশনাল বায়েস এবং মারকভ চেইন মন্টে কার্লো (MCMC)-এর মতো আধুনিক আসন্ন সমাধান পদ্ধতি।
