মেশিন লার্নিংয়ের যেকোনো গবেষক বা প্রকৌশলীকে একটি মৌলিক টানাপোড়েনের মধ্য দিয়ে যেতে হয়—মডেলটি কি এত সরল যে আসল সত্য দেখতে পাচ্ছে না, নাকি এত জটিল যে সে র‍্যান্ডম নয়েজের মধ্যেও মিথ্যা প্যাটার্ন আবিষ্কার করছে? ধ্রুপদী পরিসংখ্যানিক শিখন তত্ত্বে এই টানাপোড়েনকে বলা হয় বায়াস-ভ্যারিয়েন্স ভারসাম্য (Bias-Variance Tradeoff): পূর্বাভাসের গড় দ্বিঘাত ত্রুটিকে দুটি প্রতিদ্বন্দ্বী শক্তি এবং একটি অপূরণীয় নয়েজ ফ্লোরে বিভক্ত করার অকাট্য গাণিতিক সমীকরণ।

১. ডেটা উৎপাদন ও এস্টিমেটর

ধরা যাক আমাদের লক্ষ্য ভেরিয়েবল $y in mathbb{R}$ একটি অন্তর্নিহিত নিখুঁত ফাংশন $f^*(x)$ এবং শূন্য-গড় বিশিষ্ট র‍্যান্ডম নয়েজ $epsilon$-এর যোগফল দ্বারা তৈরি:

$$y = f^*(x) + epsilon, quad text{যেখানে} quad mathbb{E}[epsilon] = 0, quad text{Var}(epsilon) = sigma^2, quad epsilon perp x$$

আমাদের শিখন অ্যালগরিদম একটি ট্রেনিং সেট $S sim mathcal{D}^n$ দেখে একটি অনুমিত ফাংশন $hat{f}_S(x)$ তৈরি করে। যেহেতু ট্রেনিং সেট $S$ একটি দৈব নমুনা, তাই মডেল $hat{f}_S(x)$ স্বয়ং একটি দৈব চলক (Random Variable)।

সম্ভাব্য সকল ভিন্ন ভিন্ন ট্রেনিং সেটের ওপর মডেলটির গড় অনুমানকে সংজ্ঞায়িত করা হয়:

$$bar{f}(x) = mathbb{E}_S[hat{f}_S(x)]$$

২. প্রত্যাশিত পূর্বাভাস ত্রুটির গাণিতিক প্রতিপাদন

যেকোনো টেস্ট পয়েন্ট $x_0$-তে প্রত্যাশিত দ্বিঘাত ত্রুটি (Expected Prediction Error) বিশ্লেষণ করা যাক:

$$text{EPE}(x_0) = mathbb{E}_{S, epsilon}left[ (y – hat{f}_S(x_0))^2 right]$$

আমরা $y = f^*(x_0) + epsilon$ বসিয়ে এবং বন্ধনীর ভেতরে $bar{f}(x_0)$ যোগ ও বিয়োগ করে পাই:

$$y – hat{f}_S(x_0) = (f^*(x_0) – bar{f}(x_0)) + (bar{f}(x_0) – hat{f}_S(x_0)) + epsilon$$

বর্গ সম্প্রসারণ এবং প্রত্যাশা (Expectation) গ্রহণ করার পর, যেহেতু নয়েজ $epsilon$-এর গড় শূন্য এবং এটি $S$ থেকে সম্পূর্ণ স্বাধীন, তাই সকল ক্রস-টার্ম বা গুণফল শূন্য হয়ে যায়:

$$text{EPE}(x_0) = underbrace{(f^*(x_0) – bar{f}(x_0))^2}_{text{বায়াস}^২} + underbrace{mathbb{E}_Sleft[(hat{f}_S(x_0) – bar{f}(x_0))^2right]}_{text{ভ্যারিয়েন্স}} + underbrace{sigma^2}_{text{অপূরণীয় নয়েজ}}$$

৩. তিনটি উপাদানের শারীরস্থান

  • বায়াস ($text{Bias}$): মডেলের কাঠামোগত দুর্বলতার কারণে সৃষ্ট ভ্রান্তি। অসীম সংখ্যক ভিন্ন ডেটাসেটে মডেলটির গড় পূর্বাভাস এবং আসল সত্য $f^*(x)$-এর মধ্যকার ব্যবধানই হলো বায়াস। বায়াস বেশি হওয়া মানে মডেলটি বাস্তবতাকে ধরতে পারছে না (আন্ডারফিটিং)।
  • ভ্যারিয়েন্স ($text{Variance}$): নির্দিষ্ট নমুনা সেটের ওপর মডেলটির সংবেদনশীলতা। ভিন্ন ভিন্ন ট্রেনিং সেট দেখলে মডেলটি কতটা এলোমেলোভাবে পরিবর্তিত হয় এটি তার পরিমাপ। ভ্যারিয়েন্স বেশি হওয়া মানে মডেলটি ডেটার নয়েজকেও অন্ধের মতো বিশ্বাস করে ফেলেছে (ওভারফিটিং)।
  • অপূরণীয় নয়েজ ($sigma^2$): বাস্তব জগতের সহজাত বিশৃঙ্খলা। পৃথিবীর কোনো অ্যালগরিদমের পক্ষেই এই $sigma^2$ সীমার নিচে ত্রুটি নামিয়ে আনা সম্ভব নয়।

৪. ধ্রুপদী ভারসাম্য বনাম আধুনিক ডাবল ডিসেন্ট

ধ্রুপদী পরিসংখ্যানে মডেলের জটিলতা বৃদ্ধির সাথে সাথে:

$$text{জটিলতা} uparrow implies text{বায়াস}^২ downarrow, quad text{ভ্যারিয়েন্স} uparrow$$

ফলে মোট টেস্ট ভুলের গ্রাফটি ইংরেজি “U” অক্ষরের মতো রূপ নেয়, যার সর্বনিম্ন বিন্দুটিই হলো সর্বোত্তম জটিলতা। তবে গভীর নিউরাল নেটওয়ার্কে দেখা যায় যে মডেল যখন ট্রেনিং ডেটা শতভাগ নিখুঁত মুখস্থ করার সীমা ছাড়িয়ে যায় (ইন্টারপোলেশন থ্রেশহোল্ড), তখন গ্রাফটি দ্বিতীয়বার নামতে শুরু করে—যাকে আধুনিক এআই তত্ত্বে বলা হয় ডাবল ডিসেন্ট (Double Descent)।

শাকিল মাহমুদ সজল

শাকিল মাহমুদ সজল

সফটওয়্যার প্রকৌশলী ও লেখক, ঢাকা, বাংলাদেশ। কম্পিউটার বিজ্ঞান, পদার্থবিজ্ঞান, ইতিহাস ও ভাবনার সমন্বয়ে ব্যক্তিগত নোট ও প্রবন্ধ সংকলন।