۱۰. برنامهریزی ایجنت هوش مصنوعی: جدا از اجرا
کار پیچیده نقشه میخواهد. این درس میگوید چرا باید برنامهریزی را از اجرا جدا کرد، انسان کجای این فرایند مینشیند، و آیا مدلهای زبانی (Language Models) اصلاً میتوانند برنامه بریزند.
چرا برنامهی ایجنت هوش مصنوعی را پیش از اجرا میسنجیم؛ با نگهبان برنامهی زنده.
کار، هدف و قید
هر کار با یک هدف و چند قید تعریف میشود. «یک سفر دوهفتهای از تهران به هند، با بودجهٔ ۵۰۰ میلیون تومان» — هدف، سفر دوهفتهای است و قید، بودجه. کار پیچیده برنامهریزی میخواهد، و خروجی برنامهریزی یک برنامه است: نقشهٔ قدمهایی که کار را انجام میدهند. برنامهریزی خوب یعنی فهمیدن کار، در نظر گرفتن چند راه، و انتخاب امیدوارکنندهترین.
هر کار را میشود به راههای زیادی شکست و همهٔ آنها به نتیجه نمیرسند؛ بین راههای درست هم بعضی کاراترند. پرسش «چند شرکت بدون درآمد دستکم یک میلیارد دلار سرمایه جذب کردهاند؟» را دو جور میشود حل کرد: (۱) همهٔ شرکتهای بیدرآمد را پیدا کن، بعد بر اساس سرمایه فیلتر کن؛ (۲) همهٔ شرکتهایی را که یک میلیارد جذب کردهاند پیدا کن، بعد بر اساس درآمد فیلتر کن. راه دوم خیلی کاراتر است، چون شرکتهای بیدرآمد بینهایت بیشترند. یک ایجنت (AI Agent) هوشمند باید راه دوم را انتخاب کند.
برنامه را پیش از اجرا بسنجید
میشود برنامهریزی و اجرا را در یک پرامپت انجام داد: «قدمبهقدم فکر کن و قدمها را اجرا کن». ولی اگر مدل یک برنامهٔ هزارقدمی بسازد که اصلاً به هدف نمیرسد چه؟ ایجنت بینظارت میتواند ساعتها قدم بردارد و پول فراخوانی API خرج کند تا بفهمید به جایی نمیرسد. برای همین برنامهریزی باید از اجرا جدا باشد: اول برنامه ساخته شود، و فقط بعد از تأیید اجرا شود.
در حال بررسی دسترسی…
در این درس
- کار، هدف و قید
- برنامه را پیش از اجرا بسنجید
- آیا مدلهای زبانی میتوانند برنامه بریزند؟
- خودآزمایی
اصطلاحهای کلیدی این درس
- RL — Reinforcement Learning
- یادگیری تقویتی: یادگیری از راه آزمون و خطا و گرفتن پاداش؛ برای هدفهای سختی مثل ترجیح انسانی.
پرسشهایی که این درس جواب میدهد
- چرا برنامهریزی باید از اجرا جدا باشد؟
- دستهبند نیت در ایجنت چه کار میکند؟
- سه جزء جدا کردن برنامه از اجرا؟
- برنامهریزی در اصل چه مسئلهای است؟
- چرا دستهبند نیت باید دستهٔ «بیربط» داشته باشد؟