বিশাল মেধা থাকা সত্ত্বেও লার্জ ল্যাঙ্গুয়েজ মডেলগুলোর মেমরি নির্দিষ্ট সময়ে সীমাবদ্ধ থাকে এবং তাদের সম্ভাব্যতামূলক স্বভাবের কারণে তারা প্রায়শই হ্যালুসিনেশন (Hallucination) বা অলীক তথ্য তৈরি করে। রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) ভাষা মডেলের মেধার সাথে বহিরাগত বিশ্বস্ত নথিপত্র যুক্ত করে দেয়। ব্যবহারকারীর প্রশ্নের সাথে সম্পর্কিত বাস্তব তথ্য কোটি কোটি দলিলের মধ্য থেকে তাৎক্ষণিকভাবে খুঁজে এনে মডেলের সামনে উপস্থাপন করা হয়, যার ফলে মডেলের প্রতিটি উত্তর প্রমাণভিত্তিক ও নির্ভরযোগ্য হয়।
১. RAG আর্কিটেকচারের তিনটি মূল স্তম্ভ
২০২০ সালে প্যাট্রিক লুইস প্রমুখ RAG আর্কিটেকচার প্রস্তাব করেন:
- নথি রূপান্তর ও ভেক্টরাইজেশন: যেকোনো দীর্ঘ টেক্সটকে ক্ষুদ্র খণ্ডে ভাগ করে একটি এম্বেডিং মডেল দিয়ে গাণিতিক ভেক্টরে রূপান্তর করা হয়।
- দ্রুত অনুসন্ধান (ANN Retrieval): ব্যবহারকারীর প্রশ্নকেও ভেক্টরে রূপান্তর করে ভেক্টর ডেটাবেস থেকে সবচেয়ে কাছাকাছি অর্থবোধক নথিগুলো খুঁজে বের করা হয়।
- প্রমাণভিত্তিক উত্তর প্রদান: উদ্ধারকৃত বাস্তব তথ্যগুলোকে প্রম্পটের সাথে যুক্ত করে মডেলকে উত্তর তৈরি করার নির্দেশ দেওয়া হয়।
২. HNSW গ্রাফ ইনডেক্সিংয়ের বিস্ময়
লাখ লাখ ভেক্টরের সাথে প্রতিটি তুলনামূলক দূরত্ব মাপা অত্যন্ত সময়সাপেক্ষ ($O(N)$)। HNSW (Hierarchical Navigable Small World) গ্রাফ অ্যালগরিদম স্কিপ-লিস্টের মতো একাধিক স্তরের গ্রাফ তৈরি করে। ওপরের স্তরে থাকে দীর্ঘ দূরত্বের সংযোগ, যার ফলে অনুসন্ধান অত্যন্ত দ্রুত সঠিক ক্লাস্টারের কাছে পৌঁছে যায়। এরপর নিচের স্তরে নেমে নিখুঁত প্রতিবেশী খুঁজে বের করে। ফলে $O(log N)$ সময়ে ৯৮%-এর বেশি নিখুঁত তথ্য উদ্ধার করা সম্ভব হয়।
৩. হাইব্রিড সার্চ ও ক্রস-এনকোডার রির্যাংকিং
অর্থবোধক ভেক্টর সার্চ অনেক সময় সুনির্দিষ্ট কোড নম্বর বা অদ্ভুত নামের ক্ষেত্রে ভুল করতে পারে। আধুনিক RAG পাইপলাইনগুলো হাইব্রিড সার্চ ব্যবহার করে—যেখানে ভেক্টর সার্চ এবং প্রাচীন কিওয়ার্ড সার্চ (BM25) উভয়কে একত্রিত করা হয়। উদ্ধারকৃত শীর্ষ ১০০টি নথিকে একটি গভীর Cross-Encoder দিয়ে পুনরায় মূল্যায়ন ও সাজানো হয়, যার ফলে সবচেয়ে প্রাসঙ্গিক ও নিখুঁত তথ্যটিই কেবল ভাষা মডেলের ইনপুটে পৌঁছায়।
