شیدهوش
فصل ۵ · درس ۴ از ۹

۴. شکستن کار و فرصت فکر کردن برای هوش مصنوعی

یک پرامپت غول‌پیکر برای یک کار چندمرحله‌ای معمولاً بدتر از چند پرامپت کوچک پشت سر هم کار می‌کند. و گاهی کافی است از مدل هوش مصنوعی بخواهید «قدم‌به‌قدم فکر کن». این درس هر دو را باز می‌کند — و بهایی را که برایشان می‌پردازید.

زمان مطالعه: ۲۰ دقیقهرایگان با ثبت‌ناممرجع در کتاب: فصل ۵، بخش‌های Break Complex Tasks into Simpler Subtasks و Give the Model Time to Think — صفحهٔ ۴۴۲

تکنیک‌های پیشرفته‌ی پرامپت‌نویسی: شکستن کار بزرگ به گام‌های کوچک و زنجیره‌ی فکر (chain of thought).

یک کار بزرگ، چند پرامپت کوچک

برای کاری پیچیده که چند قدم دارد، به‌جای یک پرامپت غول‌پیکر برای کل کار، کار را به زیرکارها بشکنید و برای هر زیرکار پرامپت جدا بنویسید. بعد این زیرکارها را زنجیروار پشت هم بچینید.

یک چت‌بات (Chatbot) پشتیبانی مشتری را در نظر بگیرید. پاسخ به درخواست مشتری را می‌شود دو قدم کرد:

  1. تشخیص قصد: درخواست مشتری دربارهٔ چیست؟
  2. تولید پاسخ: بر اساس همان قصد، به مدل بگو چطور جواب بدهد. اگر ده قصد ممکن دارید، ده پرامپت مختلف لازم است.

این دو پرامپت از راهنمای مهندسی پرامپت OpenAI آمده‌اند (کمی کوتاه و ترجمه‌شده). اولی برای تشخیص قصد:

و دومی، یکی از ده پرامپت قدم دوم، برای قصد «عیب‌یابی»:

شاید بپرسید چرا پرامپت تشخیص قصد را هم دو تکه نکنیم — یکی برای دستهٔ اصلی و یکی برای دستهٔ فرعی؟ اینکه هر زیرکار چقدر کوچک باشد، به کاربرد شما و موازنه‌ای که بین کیفیت، هزینه و تأخیر می‌پذیرید بستگی دارد. باید آزمایش کنید تا بهترین شکستن و زنجیر کردن را پیدا کنید.

چرا ارزشش را دارد؟

مدل‌ها در فهمیدن دستورهای پیچیده بهتر می‌شوند، ولی هنوز با دستورهای ساده بهترند. شکستن پرامپت فقط کیفیت را بالا نمی‌برد؛ چند فایدهٔ دیگر هم دارد:

در حال بررسی دسترسی…

در این درس

  • یک کار بزرگ، چند پرامپت کوچک
  • چرا ارزشش را دارد؟
  • و بهایش
  • به مدل فرصت فکر کردن بدهید
  • خودآزمایی

اصطلاح‌های کلیدی این درس

TTFT — Time To First Token
زمان تا اولین توکن: چقدر طول می‌کشد تا کاربر اولین حرف پاسخ را ببیند؛ حس سرعت را همین می‌سازد.
CoT — Chain-of-Thought
زنجیرهٔ فکر: خواستن از مدل که پیش از جواب نهایی، قدم‌به‌قدم استدلال کند.

پرسش‌هایی که این درس جواب می‌دهد

  • شکستن پرامپت (prompt decomposition) یعنی چه؟
  • چهار فایدهٔ شکستن پرامپت کدام‌اند؟
  • بهای اصلی شکستن پرامپت و زنجیرهٔ فکر چیست؟
  • زنجیرهٔ فکر (CoT) چیست؟
  • خودنقادی (self-critique) چیست؟
آکادمی هوش مصنوعی شیدهوش — بخشی از shidhoosh.com