۲. توانایی تولید: سازگاری با واقعیت

از روانی تا واقعیت

هوش مصنوعی خیلی پیش از «هوش مصنوعی مولد» خروجی باز تولید می‌کرد. شاخه‌ای از پردازش زبان که به تولید متن باز می‌پردازد NLGNatural Language Generationتولید زبان طبیعی — شاخه‌ای از پردازش زبان که به تولید متن باز می‌پردازد: ترجمه، خلاصه‌سازی، بازنویسی. (Natural Language Generation — تولید زبان طبیعی) نام دارد و در اوایل دههٔ ۲۰۱۰ کارهایش ترجمه، خلاصه‌سازی و بازنویسی بود. سنجه‌های آن زمان:

• روانی: متن از نظر دستوری درست و طبیعی است؟ شبیه نوشتهٔ یک آدم مسلط به زبان است؟
• انسجام: کل متن ساختار منطقی دارد؟
• وفاداری (برای ترجمه): ترجمه به جملهٔ اصلی وفادار است؟
• ربط (برای خلاصه): خلاصه روی مهم‌ترین بخش‌های متن تمرکز کرده؟

با قوی‌تر شدن مدل‌ها، متن تولیدشده تقریباً از نوشتهٔ انسان قابل‌تشخیص نیست و روانی و انسجام کم‌اهمیت‌تر شده‌اند. ولی هنوز برای مدل‌های ضعیف، نوشتن خلاقانه و زبان‌های کم‌منبع — که فارسی هم کمابیش یکی از آن‌هاست — به کار می‌آیند. روانی و انسجام را می‌شود با هوش مصنوعی داور سنجید، یا با سرگشتگی (فصل ۳).

مدل‌های مولد مشکل‌های تازه‌ای هم آورده‌اند. فوری‌ترینش توهم ناخواسته است: توهم برای کار خلاقانه خوب است، برای کاری که به واقعیت تکیه دارد نه. پس سنجه‌ای که خیلی‌ها می‌خواهند سازگاری با واقعیت است. دومی ایمنی است. سنجه‌های دیگری هم هست — نویسندهٔ کتاب برای دستیار نوشتنِ خودش «بحث‌برانگیز بودن» را می‌سنجید؛ بعضی‌ها مهربانی، مثبت بودن، خلاقیت یا اختصار را — ولی روش سنجیدن این دو، الگوی بقیه هم هست.

سازگاری با واقعیت: محلی یا جهانی

اگر مدل بگوید «آسمان آبی است» ولی متن زمینه گفته باشد «آسمان بنفش است»، این خروجی از نظر محلی ناسازگار است؛ و اگر با همان زمینه بگوید «آسمان بنفش است»، سازگار. ولی از نظر جهانی، «آسمان آبی است» درست است، چون واقعیتی پذیرفته‌شده است.

سنجیدن در برابر واقعیت‌های صریح خیلی آسان‌تر است. درستی جملهٔ «هیچ ارتباط اثبات‌شده‌ای بین واکسن و اوتیسم وجود ندارد» را راحت‌تر می‌شود سنجید اگر منابع معتبری داشته باشید که صراحتاً دربارهٔ این ارتباط حرف زده‌اند. اگر زمینه‌ای نداشته باشید، اول باید منبع معتبر پیدا کنید، واقعیت را از آن دربیاورید، و بعد جمله را با آن بسنجید.

چهار راه سنجیدن سازگاری با واقعیت

فرض کنید متن زمینه را دارید — یا کاربر داده یا خودتان پیدایش کرده‌اید (پیدا کردن زمینه، فصل ۶).

۱. هوش مصنوعی در نقش داور

سرراست‌ترین راه. پژوهش‌ها (Liu و همکاران و Luo و همکاران، ۲۰۲۳) نشان داده‌اند GPT-3.5 و GPT-4 در سنجیدن سازگاری با واقعیت از روش‌های قبلی بهترند. مقالهٔ TruthfulQA داوری به اسم GPT-judge ساخت که با دقت ۹۰ تا ۹۶ درصد پیش‌بینی می‌کرد آدم‌ها یک جمله را راست می‌دانند یا نه. این ترجمهٔ پرامپتی است که Liu و همکاران برای سنجیدن سازگاری یک خلاصه با متن اصلی به کار بردند:

سازگاری با واقعیت: آیا خلاصه ادعاهای نادرست یا گمراه‌کننده‌ای
دارد که متن اصلی از آن‌ها پشتیبانی نمی‌کند؟

متن اصلی:
{{Document}}

خلاصه:
{{Summary}}

آیا خلاصه ناسازگاری واقعی دارد؟
پاسخ:

یک نکتهٔ بامزه: پرامپت اصلی در مقاله یک غلط تایپی دارد (یک فعل جا افتاده) و کتاب عمداً همان‌طور نقلش کرده — تا نشان دهد آدم‌ها چقدر راحت در پرامپت اشتباه می‌کنند.

۲. خودوارسی

روش SelfCheckGPT بر یک فرض ساده بنا شده: اگر مدل چند بار به یک سؤال جواب بدهد و جواب‌ها با هم نخوانند، پاسخ اصلی احتمالاً توهم است. پس برای سنجیدن پاسخ R، مدل N پاسخ تازه می‌سازد و می‌سنجد R چقدر با آن‌ها سازگار است. کار می‌کند، ولی گران است: سنجیدن هر پاسخ چندین فراخوانی مدل می‌خواهد. (همان ناسازگاری فصل ۲، این بار به‌عنوان ابزار!)

۳. وارسی با دانش بیرونی

روش SAFESearch-Augmented Factuality Evaluatorارزیاب واقعیت با کمک جست‌وجو — روش DeepMind: پاسخ را به ادعاهای تکی می‌شکند و هر کدام را با جست‌وجو می‌سنجد. (Search-Augmented Factuality Evaluator — ارزیاب واقعیت با کمک جست‌وجو) از Google DeepMind (مقالهٔ «واقعیت‌سنجی متن بلند در مدل‌های زبانی بزرگ»، ۲۰۲۴) پاسخ را با نتیجه‌های موتور جست‌وجو می‌سنجد، در چهار قدم:

قدم ۲ مهم‌تر از آن است که به نظر می‌رسد: «آن در قرن نوزدهم ساخته شد» به‌تنهایی قابل‌جست‌وجو نیست؛ باید به «برج ایفل در قرن نوزدهم ساخته شد» تبدیل شود.

۴. استلزام متنی

سنجیدن اینکه یک جمله با یک زمینه سازگار است یا نه را می‌شود به شکل یک کار قدیمی پردازش زبان دید: استلزام متنی (که به آن NLINatural Language Inferenceاستنتاج زبان طبیعی — همان استلزام متنی: آیا فرضیه از مقدمه نتیجه می‌شود، با آن تناقض دارد، یا هیچ‌کدام. (Natural Language Inference — استنتاج زبان طبیعی) هم می‌گویند). یک مقدمه (زمینه) داریم و یک فرضیه (خروجی یا بخشی از آن)، و رابطهٔ آن‌ها یکی از سه حالت است:

به‌جای داور همه‌منظوره، می‌شود داور تخصصی آموزش داد که یک جفت (مقدمه، فرضیه) بگیرد و یکی از این سه دسته را بگوید — یعنی سنجیدن واقعیت تبدیل می‌شود به یک کار دسته‌بندی. مثلاً مدل DeBERTa-v3-base-mnli-fever-anli فقط ۱۸۴ میلیون پارامتر دارد و روی ۷۶۴ هزار جفت برچسب‌خورده آموزش دیده — هزاران بار کوچک‌تر و ارزان‌تر از یک مدل زبانی بزرگ.

آزمون TruthfulQA

این آزمون ۸۱۷ سؤال در ۳۸ دسته (سلامت، حقوق، مالی، سیاست و…) دارد — سؤال‌هایی که بعضی آدم‌ها به‌خاطر یک باور غلط اشتباه جواب می‌دهند. همراهش داور GPT-judge هم می‌آید. چند نمونه از جواب‌های غلط GPT-3:

طبق گزارش فنی GPT-4، مدل‌ها روی این آزمون هنوز با پایهٔ انسانی متخصص — ۹۴٪ — فاصله داشتند. سازگاری با واقعیت مهم‌ترین معیار سامانه‌های RAGRetrieval-Augmented Generationتولید تقویت‌شده با بازیابی هم هست: پاسخ باید با متنی که بازیابی شده سازگار باشد (فصل ۶).

خودآزمایی