লুডভিগ বোল্টজম্যান ও উইলার্ড গিবসের পরিসংখ্যানিক বলবিদ্যা আবিষ্কারের পর প্রায় এক শতাব্দী ধরে পদার্থবিজ্ঞানীদের মধ্যে তীব্র বিতর্ক ছিল: থার্মোডাইনামিক এনট্রপি কি বস্তুর মতো কোনো বাস্তব ভৌত সত্তা, নাকি তা পর্যবেক্ষকের অজ্ঞতার পরিমাপ? ১৯৫৭ সালে মার্কিন তাত্ত্বিক পদার্থবিদ এডউইন থম্পসন জেইনস ফিজিক্যাল রিভিউ-তে প্রকাশ করেন তাঁর যুগান্তকারী গবেষণা: “ইনফরমেশন থিওরি অ্যান্ড স্ট্যাটিস্টিক্যাল মেকানিক্স”। জেইনস প্রমাণ করেন যে পরিসংখ্যানিক বলবিদ্যা কোনো পৃথক পদার্থবিজ্ঞান নয়; এটি মূলত ক্লদ শ্যাননের ইনফরমেশন থিওরির ওপর প্রতিষ্ঠিত একটি অবজেক্টিভ বেয়েশিয়ান সিদ্ধান্ত গ্রহণ পদ্ধতি। পদার্থবিজ্ঞানের বিখ্যাত বোল্টজম্যান-গিবস বিন্যাস আসলে জানা ম্যাক্রোস্কোপিক তথ্যের প্রেক্ষিতে শ্যানন এনট্রপিকে সর্বোচ্চ করার একমাত্র নিরপেক্ষ গাণিতিক রূপ।
১. পরিসংখ্যানিক অনুমানের মূল সমস্যা
একটি পাত্রে থাকা ট্রিলিয়ন ট্রিলিয়ন গ্যাসের অণুর অবস্থান আমাদের পক্ষে জানা অসম্ভব; আমরা কেবল তার গড় শক্তি $langle E rangle$ পরিমাপ করতে পারি। এখন আমাদের কাছে অজানা চলক $10^{23}$ টি, অথচ সমীকরণ মাত্র একটি!
কোনো মনগড়া অনুমান না করে সবচেয়ে নিরপেক্ষ সম্ভাবনা বের করার একমাত্র উপায় হলো এমন একটি সম্ভাবনা বিন্যাস $p_i$ বেছে নেওয়া যা শ্যানন এনট্রপি $H(p)$-কে সর্বোচ্চ (Maximize) করে এবং কেবল আমাদের জানা গড় শক্তির শর্ত মেনে চলে। এটিই হলো ম্যাক্সিমাম এনট্রপি প্রিন্সিপাল (MaxEnt)।
২. লাগ্রাঞ্জ গুণক ও বোল্টজম্যান বিন্যাসের প্রতিপাদন
লাগ্রাঞ্জিয়ান সমীকরণ তৈরি করে শ্যানন এনট্রপি $-sum p_i ln p_i$-কে সর্বোচ্চ করলে পাওয়া যায়:
[
frac{partial mathcal{L}}{partial p_i} = -ln p_i – 1 – lambda_0 – beta E_i = 0
]
এর সমাধান থেকে সরাসরি জন্ম নেয় শতাব্দীর শ্রেষ্ঠ সমীকরণ—ক্যানোনিকাল পার্টিশন ফাংশন $Z$ এবং বোল্টজম্যান বিন্যাস:
[
p_i = frac{1}{Z} e^{-beta E_i}, quad Z = sum e^{-beta E_i}
]
এখানে কোনো জটিল তাপীয় অনুমানের প্রয়োজন হয়নি; বিশুদ্ধ তথ্য তত্ত্বের চরম অনিশ্চয়তা নীতি থেকেই স্বয়ংক্রিয়ভাবে থার্মোডাইনামিকসের জন্ম হয়েছে!
৩. শ্যানন এনট্রপি ও গিবস এনট্রপির নিখুঁত মিলন
জেইনস দেখান যে এই বিন্যাসের সর্বোচ্চ এনট্রপি হুবহু হেলমহোল্টজ মুক্ত শক্তি এবং থার্মোডাইনামিক এনট্রপির সমীকরণের সমান হয়:
[
S_{text{thermo}} = k_B cdot H_{text{Shannon}}
]
থার্মোডাইনামিক এনট্রপি কোনো অদৃশ্য ভৌত তরল নয়; এটি হলো শ্যানন ইনফরমেশন এনট্রপি গুণিতক বোল্টজম্যান ধ্রুবক $k_B$! তাপগতিবিদ্যার দ্বিতীয় সূত্র ($dS ge 0$) বস্তুর অবক্ষয় নয়, বরং মাইক্রোস্কোপিক জগৎ সম্পর্কে আমাদের তথ্যের অনিবার্য অপচয় নির্দেশ করে।