شیدهوش
فصل ۱۰ · درس ۱۰ از ۱۷

۱۰. محدودیت‌های بازخورد، و پایان راه

بازخورد ناهار مجانی نیست. مثل هر دادهٔ دیگری سوگیری دارد — مهربانی بی‌جا، کلیک‌های تصادفی، علاقه به گزینهٔ اول و پاسخ بلندتر — و اگر بی‌دقت به مدل برگردد، حلقه‌ای می‌سازد که سوگیری اولیه را بزرگ می‌کند تا جایی که محصول را عوض کند یا مدل را چاپلوس. این درس آخرین درس نظری دوره است؛ آخرش نگاهی به کل راهی که ذهن‌یار آمد می‌اندازیم.

زمان مطالعه: ۲۷ دقیقهرایگان با ثبت‌ناممرجع در کتاب: فصل ۱۰، بخش‌های Feedback Limitations و Summary — صفحهٔ ۹۲۱

سوگیری‌های بازخورد کاربر و حلقه‌ی معیوبی که محصول را گمراه می‌کند؛ و پایان دوره‌ی مهندسی هوش مصنوعی.

سوگیری‌ها

شکی در ارزش بازخورد برای سازنده نیست؛ ولی بازخورد محدودیت‌های خودش را دارد. مثل هر دادهٔ دیگری، سوگیری دارد؛ باید این سوگیری‌ها را بشناسید و سیستم بازخورد را دورشان طراحی کنید. هر اپلیکیشن سوگیری‌های خودش را دارد؛ چند نمونه:

سوگیری مهربانی

سوگیری مهربانی (leniency bias) تمایل آدم‌ها به امتیاز دادن مثبت‌تر از حد واقعی است — برای اجتناب از تنش، چون حس می‌کنند باید مهربان باشند، یا چون ساده‌ترین گزینه است. تصور کنید عجله دارید و اپلیکیشنی می‌خواهد به تراکنشی امتیاز بدهید. راضی نیستید، ولی می‌دانید اگر امتیاز منفی بدهید دلیل می‌خواهد؛ پس مثبت می‌زنید تا خلاص شوید. برای همین هم نباید آدم‌ها را برای بازخوردتان به کار اضافه واداشت.

در امتیاز پنج‌ستاره‌ای، چهار و پنج ستاره قرار است تجربهٔ خوب را نشان دهند؛ ولی کاربرها اغلب برای پنج ستاره تحت فشارند و چهار ستاره را برای وقتی نگه می‌دارند که چیزی خراب شده. به گفتهٔ Uber، در ۲۰۱۵ میانگین امتیاز رانندگان ۴٫۸ بود و امتیاز زیر ۴٫۶ راننده را در خطر غیرفعال شدن می‌گذاشت.

این سوگیری لزوماً فاجعه نیست: هدف Uber جدا کردن رانندهٔ خوب از بد است و با همین سوگیری هم به هدفش می‌رسد. مهم این است که توزیع امتیازها را نگاه کنید. اگر بازخورد ریزدانه‌تری می‌خواهید، برداشتن بار منفی امتیازهای پایین کمک می‌کند: به جای عدد ۱ تا ۵، گزینه‌هایی مثل این نشان دهید (کتاب می‌گوید این گزینه‌ها فقط برای نشان دادن ایده‌اند و آزموده نشده‌اند):

در حال بررسی دسترسی…

در این درس

  • سوگیری‌ها
  • سوگیری مهربانی
  • تصادف، جایگاه، ترجیح
  • حلقهٔ بازخورد معیوب
  • جمع‌بندی فصل
  • پایان راه ذهن‌یار
  • خودآزمایی

پرسش‌هایی که این درس جواب می‌دهد

  • سوگیری مهربانی؟
  • با سوگیری جایگاه چه کنیم؟
  • سوگیری ترجیح در مقایسهٔ دوبه‌دو؟
  • حلقهٔ بازخورد معیوب؟
  • آموزش روی بازخورد کاربر چه خطری دارد؟
  • چرا مهندسی هوش مصنوعی به محصول نزدیک‌تر می‌شود؟
آکادمی هوش مصنوعی شیدهوش — بخشی از shidhoosh.com