شیدهوش
فصل ۷ · درس ۱۰ از ۱۴

۱۰. ادغام مدل‌های هوش مصنوعی و تنظیم چندکاره

تنظیم دقیق (Fine-tuning) یک مدل را برای نیاز شما عوض می‌کند؛ ادغام، چند مدل را یکی می‌کند. ادغام هنوز تجربی است ولی بی‌GPU هم ممکن است، و بسیاری از مدل‌های بالای جدول‌های رتبه‌بندی، مدل ادغام‌شده‌اند. این درس می‌گوید ادغام به چه دردی می‌خورد و سه راه اصلی آن کدام‌اند.

زمان مطالعه: ۱۹ دقیقهرایگان با ثبت‌ناممرجع در کتاب: فصل ۷، بخش Model Merging and Multi-Task Finetuning — صفحهٔ ۶۶۴

ادغام مدل‌های هوش مصنوعی با جمع، لایه‌چینی و الحاق، و فاین‌تیون برای چند کار با هم.

چرا ادغام؟

اگر تنظیم دقیق با عوض کردن یک مدل، مدل سفارشی می‌سازد، ادغام مدل‌ها (model merging) با ترکیب چند مدل این کار را می‌کند. می‌شود دو مدل آماده را برداشت و ادغام کرد، یا هر کدام را پیش از ادغام تنظیم کرد، یا مدل ادغام‌شده را بعداً تنظیم کرد. بدون تنظیم، ادغام بی‌GPU هم ممکن است؛ برای همین برای سازندگان مستقلی که محاسبهٔ زیادی ندارند جذاب است.

هدف: یک مدل که از همهٔ مدل‌های سازنده‌اش، جدا جدا، ارزش بیشتری بدهد. این ارزش از دو جا می‌آید:

  • کیفیت بهتر: دو مدل که در یک کار، در بخش‌های متفاوتی خوب‌اند. اگر یکی ۶۰٪ اول سؤال‌ها را جواب می‌دهد و دیگری ۶۰٪ آخر را، شاید ادغامشان ۸۰٪ را جواب بدهد.
  • حافظهٔ کمتر: دو مدل که کارهای متفاوتی بلدند، در یک مدل با پارامتر کمتر. به‌خصوص برای آداپترها (Adapters): دو مدل تنظیم‌شده روی یک مدل پایه (Foundation Model) را می‌شود با ادغام آداپترهایشان در یک آداپتر یکی کرد.

تنظیم چندکاره و فراموشی فاجعه‌بار (Catastrophic Forgetting)

یک کاربرد مهم ادغام، تنظیم چندکاره است. بی‌ادغام، دو راه دارید:

  • هم‌زمان: یک دیتاست (Dataset) با نمونه‌های همهٔ کارها بسازید و مدل را روی آن تنظیم کنید. ولی یاد گرفتن چند مهارت با هم سخت‌تر است و معمولاً داده و آموزش بیشتری می‌خواهد.
  • پشت‌سرهم: اول کار الف، بعد کار ب، و همین‌طور. فرض این است که یک کار در هر زمان آسان‌تر است. ولی شبکه‌های عصبی مستعد فراموشی فاجعه‌باراند: مدل وقتی روی کار تازه آموزش می‌بیند، کار قدیمی را فراموش می‌کند و کیفیتش در آن سقوط می‌کند.

در حال بررسی دسترسی…

در این درس

  • چرا ادغام؟
  • تنظیم چندکاره و فراموشی فاجعه‌بار (Catastrophic Forgetting)
  • روی دستگاه، و یادگیری فدرال
  • سه راه ادغام
  • ۱. جمع کردن
  • ۲. روی هم چیدن لایه‌ها
  • ۳. کنار هم گذاشتن
  • خودآزمایی

اصطلاح‌های کلیدی این درس

SLERP — Spherical Linear Interpolation
درون‌یابی خطی کروی: ادغام دو بردار با حرکت روی کوتاه‌ترین مسیر سطح یک کره.
TIES — TrIm, Elect Sign, and merge
هرس، انتخاب علامت و ادغام: روش ادغامی که اول تغییرهای زائد بردارهای کار را هرس می‌کند.
DARE — Drop And REscale
حذف و بازمقیاس: روش ادغامی که بخشی از بردار کار را تصادفی حذف و بقیه را بزرگ‌تر می‌کند.
MoE — Mixture of Experts
ترکیب خبرگان: مدل از چند زیرشبکهٔ متخصص تشکیل شده و برای هر ورودی فقط چندتا فعال می‌شوند.

پرسش‌هایی که این درس جواب می‌دهد

  • فرق گروه (ensemble) و ادغام؟
  • فراموشی فاجعه‌بار؟
  • بردار کار (task vector)؟
  • سه رویکرد ادغام؟
  • چرا TIES و DARE پیش از ادغام هرس می‌کنند؟
آکادمی هوش مصنوعی شیدهوش — بخشی از shidhoosh.com