مفهوم اصلی
در یک سیستم RAG، بخش Retriever نقش بسیار مهمی دارد، اما بخش اصلی تولید پاسخ توسط:
Large Language Model (LLM)
انجام می‌شود.
Retriever وظیفه دارد:
- اطلاعات مفید را پیدا کند.
- آن‌ها را آماده کند.
اما در نهایت این LLM است که باید:
- اطلاعات دریافت‌شده را درک کند.
- از آن‌ها استفاده کند.
- یک پاسخ با کیفیت تولید کند.
موضوعات این Module
در این بخش، تمرکز روی شناخت و بهبود عملکرد LLM در سیستم‌های RAG است.
مباحث اصلی
در این Module یاد می‌گیریم:
1. آشنایی عمیق با LLMها
بررسی:
- نحوه کار Large Language Modelها
- معماری داخلی آن‌ها
- نحوه پردازش اطلاعات
2. معماری Transformer
بررسی:
- معماری Transformer که پایه اصلی LLMهای امروزی است.
- نحوه ساخت مدل‌هایی که توانایی درک و تولید متن دارند.
3. ساخت درخواست‌های LLM در کدنویسی
یادگیری:
- نحوه ایجاد LLM Call
- نحوه استفاده از LLM در یک Workflow برنامه‌نویسی
4. بهبود پاسخ‌های LLM در RAG
در ادامه، Workflow ساده LLM توسعه داده می‌شود تا مدل بتواند:
- پاسخ‌های با کیفیت‌تر تولید کند.
- پاسخ‌ها را بر اساس اطلاعات Retriever قرار دهد.
- از اطلاعات ارائه‌شده به عنوان منبع استفاده کند.
تکنیک‌های پیشرفته
در این Module با تکنیک‌هایی آشنا می‌شویم که:
- عملکرد LLM را بهبود می‌دهند.
- توانایی مدل را به حداکثر می‌رسانند.
همچنین بررسی می‌شود که:
کدام روش‌ها در پروژه‌های واقعی RAG کاربردی‌تر هستند.
تمرین عملی
در پایان Module:
یک Programming Assignment وجود دارد.
هدف:
ساخت یک سیستم RAG بر اساس مفاهیمی که در این بخش آموزش داده می‌شوند.
جمع‌بندی
- Retriever اطلاعات مناسب را پیدا می‌کند، اما LLM مسئول تولید پاسخ نهایی است.
- برای ساخت RAG قدرتمند، باید نحوه عملکرد LLM و روش‌های بهبود آن را شناخت.
- این Module روی معماری Transformer، استفاده از LLM در کد و تکنیک‌های افزایش کیفیت پاسخ تمرکز دارد.
- در پایان، مفاهیم آموزش داده‌شده در قالب ساخت یک سیستم RAG عملی استفاده می‌شوند.