۱۴. پروژه (۳): LoRA از صفر — یاد دادن «بیرون از دوره»
مدل پایهٔ درس قبل سؤالهای دوره را خوب مسیریابی میکند ولی هر سؤال بیربطی را هم با اطمینان کامل به یکی از فصلها میفرستد. در این درس LoRA را از صفر میسازیم و با ۱۹۰ نمونه رفتار تازه را یادش میدهیم. بعد پنج روش را کنار هم میسنجیم — تنظیم کامل، LoRA با سه رتبه، و آموزش از صفر — آداپتر (Adapter) را ادغام میکنیم، برمیداریم، و اندازهاش را با مدل مقایسه میکنیم.
LoRA را از صفر با پایتون پیاده کنید و به ذهنیار یاد بدهید پرسش بیرون از دوره را بشناسد.
چه میسازیم؟
دادهٔ تنظیم دقیق (Fine-tuning): ۱۳۳ سؤال دوره و ۵۷ سؤال بیرون از دوره از بخش train فایل router.json — جمعاً ۱۹۰ نمونه. سنجش روی سؤالهایی که در آموزش نبودهاند، با چهار عدد:
قدم ۱ — آداپتر: lora.py
LoRA همان فرمول درس ۸ است: W' = W + (α/r)·A·B. ولی ما 'W را هیچوقت در آموزش نمیسازیم؛ ورودی را از دو مسیر میگذرانیم و جمع میکنیم: یک بار از W منجمد، یک بار از B و بعد A. نتیجه دقیقاً همان است، با محاسبهٔ خیلی کمتر. با r = 2، ابعاد ماتریسها در مسیریاب اینطور است:
در پوشهٔ zehnyar فایل lora.py را بسازید:
قدم ۲ — اسکریپت: run_lora.py
چهار بخش: پنج روش روی یک داده؛ چند نمونه پیش و پس؛ ادغام؛ و برداشتن آداپتر. در پوشهٔ projects/ch07_finetune بسازیدش:
در حال بررسی دسترسی…
در این درس
- چه میسازیم؟
- قدم ۱ — آداپتر: lora.py
- قدم ۲ — اسکریپت: run_lora.py
- قدم ۳ — اجرا کنید
- چه چیزی ساختیم؟
- تمرین شما
- خودآزمایی
پرسشهایی که این درس جواب میدهد
- در مسیریاب، LoRA روی کدام لایه برای تشخیص «بیرون از دوره» مهمتر بود و چرا؟