شیدهوش
فصل ۷ · درس ۷ از ۱۴

۷. PEFT: تنظیم دقیق با پارامترهای کم

اگر هر پارامتر آموزش‌پذیر سه عدد اضافه می‌خواهد، راه حل روشن است: پارامترهای آموزش‌پذیر کمتر. ولی کدام‌ها؟ این درس از تنظیم کامل و تنظیم جزئی شروع می‌کند، می‌گوید چرا تنظیم جزئی «پارامتر-ناکارآمد» است، و دو خانوادهٔ روش‌های پارامتر-کارآمد را معرفی می‌کند: آداپترها (Adapters) و پرامپت‌های نرم.

زمان مطالعه: ۱۶ دقیقهرایگان با ثبت‌ناممرجع در کتاب: فصل ۷، بخش‌های Finetuning Techniques و Parameter-Efficient Finetuning — صفحهٔ ۶۳۸

فاین‌تیون کم‌هزینه‌ی مدل هوش مصنوعی با PEFT: آداپترها و روش‌های بر پایه‌ی پرامپت نرم.

تنظیم کامل

در روزهای اول، مدل‌ها آن‌قدر کوچک بودند که کل مدل را تنظیم می‌کردند. به این تنظیم کامل (full finetuning) می‌گویند: تعداد پارامترهای آموزش‌پذیر دقیقاً برابر کل پارامترهاست. تنظیم کامل شبیه آموزش است، با یک فرق: آموزش از وزن‌های تصادفی شروع می‌شود، تنظیم دقیق از وزن‌هایی که از قبل آموزش دیده‌اند.

یک مدل ۷ میلیاردی را در نظر بگیرید. در FP16، فقط بارگذاری وزن‌ها ۱۴ گیگابایت است؛ تنظیم کاملش با Adam، باز هم ۱۶ بیتی، ‎7B × 3 × 2 = ۴۲ گیگابایت اضافه می‌خواهد؛ جمعاً ۵۶ گیگابایت. این از ظرفیت بیشتر GPUهای مصرفی — معمولاً ۱۲ تا ۲۴ گیگابایت، رده‌بالاها تا ۴۸ — بیشتر است. و هنوز فعال‌سازی‌ها را حساب نکرده‌ایم.

تنظیم کامل، به‌خصوص نظارت‌شده و ترجیحی، معمولاً دادهٔ برچسب‌خوردهٔ باکیفیت زیادی هم می‌خواهد که بیشتر آدم‌ها توانش را ندارند. حافظه و دادهٔ زیاد باعث شد سراغ تنظیم جزئی بروند.

در حال بررسی دسترسی…

در این درس

  • تنظیم کامل
  • تنظیم جزئی و مشکلش
  • آداپترهای Houlsby
  • دو خانواده: آداپتر و پرامپت نرم (Soft Prompt)
  • خودآزمایی

اصطلاح‌های کلیدی این درس

CPU — Central Processing Unit
واحد پردازش مرکزی: پردازندهٔ اصلی کامپیوتر؛ حافظه‌اش ارزان‌تر و کندتر از GPU.
GLUE — General Language Understanding Evaluation
ارزیابی عمومی فهم زبان: مجموعه‌آزمونی رایج برای مدل‌هایی مثل BERT.
PEFT — Parameter-Efficient Finetuning
تنظیم دقیق کم‌پارامتر: به‌جای تغییر همهٔ وزن‌های مدل، فقط بخش کوچکی را آموزش می‌دهیم.
IA3 — Infused Adapter by Inhibiting and Amplifying Inner Activations
آداپتر تزریقی با تقویت و تضعیف فعال‌سازی‌ها: روش PEFT با پارامترهای بسیار کم، مناسب تنظیم چندکاره.

پرسش‌هایی که این درس جواب می‌دهد

  • چرا تنظیم جزئی «پارامتر-ناکارآمد» است؟
  • PEFT چه روشی را می‌گویند؟
  • آداپترهای Houlsby: نتیجه و عیب؟
  • دو خانوادهٔ PEFT؟
  • فرق پرامپت نرم و سخت؟
آکادمی هوش مصنوعی شیدهوش — بخشی از shidhoosh.com