۷. PEFT: تنظیم دقیق با پارامترهای کم
اگر هر پارامتر آموزشپذیر سه عدد اضافه میخواهد، راه حل روشن است: پارامترهای آموزشپذیر کمتر. ولی کدامها؟ این درس از تنظیم کامل و تنظیم جزئی شروع میکند، میگوید چرا تنظیم جزئی «پارامتر-ناکارآمد» است، و دو خانوادهٔ روشهای پارامتر-کارآمد را معرفی میکند: آداپترها (Adapters) و پرامپتهای نرم.
فاینتیون کمهزینهی مدل هوش مصنوعی با PEFT: آداپترها و روشهای بر پایهی پرامپت نرم.
تنظیم کامل
در روزهای اول، مدلها آنقدر کوچک بودند که کل مدل را تنظیم میکردند. به این تنظیم کامل (full finetuning) میگویند: تعداد پارامترهای آموزشپذیر دقیقاً برابر کل پارامترهاست. تنظیم کامل شبیه آموزش است، با یک فرق: آموزش از وزنهای تصادفی شروع میشود، تنظیم دقیق از وزنهایی که از قبل آموزش دیدهاند.
یک مدل ۷ میلیاردی را در نظر بگیرید. در FP16، فقط بارگذاری وزنها ۱۴ گیگابایت است؛ تنظیم کاملش با Adam، باز هم ۱۶ بیتی، 7B × 3 × 2 = ۴۲ گیگابایت اضافه میخواهد؛ جمعاً ۵۶ گیگابایت. این از ظرفیت بیشتر GPUهای مصرفی — معمولاً ۱۲ تا ۲۴ گیگابایت، ردهبالاها تا ۴۸ — بیشتر است. و هنوز فعالسازیها را حساب نکردهایم.
تنظیم کامل، بهخصوص نظارتشده و ترجیحی، معمولاً دادهٔ برچسبخوردهٔ باکیفیت زیادی هم میخواهد که بیشتر آدمها توانش را ندارند. حافظه و دادهٔ زیاد باعث شد سراغ تنظیم جزئی بروند.
در حال بررسی دسترسی…
در این درس
- تنظیم کامل
- تنظیم جزئی و مشکلش
- آداپترهای Houlsby
- دو خانواده: آداپتر و پرامپت نرم (Soft Prompt)
- خودآزمایی
اصطلاحهای کلیدی این درس
- CPU — Central Processing Unit
- واحد پردازش مرکزی: پردازندهٔ اصلی کامپیوتر؛ حافظهاش ارزانتر و کندتر از GPU.
- GLUE — General Language Understanding Evaluation
- ارزیابی عمومی فهم زبان: مجموعهآزمونی رایج برای مدلهایی مثل BERT.
- PEFT — Parameter-Efficient Finetuning
- تنظیم دقیق کمپارامتر: بهجای تغییر همهٔ وزنهای مدل، فقط بخش کوچکی را آموزش میدهیم.
- IA3 — Infused Adapter by Inhibiting and Amplifying Inner Activations
- آداپتر تزریقی با تقویت و تضعیف فعالسازیها: روش PEFT با پارامترهای بسیار کم، مناسب تنظیم چندکاره.
پرسشهایی که این درس جواب میدهد
- چرا تنظیم جزئی «پارامتر-ناکارآمد» است؟
- PEFT چه روشی را میگویند؟
- آداپترهای Houlsby: نتیجه و عیب؟
- دو خانوادهٔ PEFT؟
- فرق پرامپت نرم و سخت؟