مقررات و سیاست
انتروپیک سیاست استفاده از هوش مصنوعی را به‌روزرسانی کرد
انتروپیک نسخه تازه‌ای از سیاست استفاده خود را منتشر کرد و برای استفاده‌های پرریسک، نظارت، سلاح و رفتارهای فریبکارانه توضیحات دقیق‌تری افزود.
پادکست اخبار هوش مصنوعی
همین خبر، در گفت‌وگوی دو صدای ساخته‌شده با هوش مصنوعی
۲:۰۶متن کامل گفت‌وگو
- گوینده‌ی اول
سلام، شما شنونده‌ی پادکست خبری شیدهوش هستید. انتروپیک سیاست استفاده از هوش مصنوعی خود را به‌روزرسانی کرده؛ این خبر دقیقاً چه می‌گوید؟
- گوینده‌ی دوم
انتروپیک نسخه‌ی تازه‌ای از سیاست استفاده‌ی خود را منتشر کرده و گفته بیشتر تغییرها برای روشن‌تر کردن قواعد موجود است.
- گوینده‌ی اول
چه چیزهایی در این نسخه روشن‌تر شده است؟
- گوینده‌ی دوم
این به‌روزرسانی برای استفاده‌های پرریسک، کاربردهای خودکارِ فیزیکی، رفتارهای فریبکارانه، نظارت، سلاح و رفتارهای آزارگرانه نسبت به مدل‌ها توضیحات دقیق‌تری اضافه می‌کند.
- گوینده‌ی اول
یعنی این فقط یک ویرایش زبانی است یا اثر عملی هم دارد؟
- گوینده‌ی دوم
خبر می‌گوید هدف اصلی روشن‌تر کردن قواعد موجود است، اما همین روشن‌تر شدن می‌تواند مرزهای استفاده‌ی مجاز، پرریسک و ممنوع را مشخص‌تر کند.
- گوینده‌ی اول
این تغییر از چه زمانی اجرا می‌شود؟
- گوینده‌ی دوم
نسخه‌ی جدید از ۱۲ نوامبر اجرا می‌شود.
- گوینده‌ی اول
برای چه کسانی مهم است؟
- گوینده‌ی دوم
در خود خبر آمده که برای مدیران فناوری، حقوقی، امنیت اطلاعات و انطباق، پیام اصلی این است که استفاده‌ی سازمانی از هوش مصنوعی فقط به کارایی محدود نمی‌شود و باید از ابتدا با سیاست داخلی، کنترل ریسک و الزامات انطباق هم‌راستا باشد.
- گوینده‌ی اول
اگر کسی در محصول یا فرایندهای داخلی از هوش مصنوعی استفاده کند، این خبر چه هشداری می‌دهد؟
- گوینده‌ی دوم
این خبر می‌گوید مرزبندی میان استفاده‌ی مجاز، استفاده‌ی پرریسک و استفاده‌ی ممنوع باید از پیش روشن باشد. جزئیات بیشتری از اجرای داخلی در خبر نیامده است.
- گوینده‌ی اول
پس جمع‌بندی کوتاه چیست؟
- گوینده‌ی دوم
جمع‌بندی این است که انتروپیک با نسخه‌ی تازه‌ی سیاست استفاده‌ی خود، قواعد را شفاف‌تر کرده و دامنه‌ی چند نوع استفاده‌ی حساس را دقیق‌تر توضیح داده است. متن کامل این خبر و لینک منبع اصلی در همین صفحه‌ی خبر در وب‌سایت شیدهوش قرار دارد.
انتروپیک نسخه تازه‌ای از سیاست استفاده خود را منتشر کرد و گفت بیشتر تغییرها برای روشن‌تر کردن قواعد موجود است. این به‌روزرسانی برای استفاده‌های پرریسک، کاربردهای خودکارِ فیزیکی، رفتارهای فریبکارانه، نظارت، سلاح و رفتارهای آزارگرانه نسبت به مدل‌ها توضیحات دقیق‌تری اضافه می‌کند. نسخه جدید از 12 نوامبر اجرا می‌شود. مهم‌ترین تغییرات
- ممنوعیت روشن‌تر فعالیت‌های فریبکارانه Anthropic بخش جدیدی برای مقابله با کمپین‌های فریب، حساب‌های جعلی، سایت‌های خبری ساختگی و عملیات نفوذ اطلاعاتی اضافه کرده است. استفاده از Claude برای پنهان کردن هویت واقعی منتشرکنندگان محتوا یا تقویت مصنوعی پیام‌ها ممنوع است.
- بازنگری قوانین مربوط به انتخابات تمرکز قوانین انتخاباتی اکنون روی جلوگیری از فریب رأی‌دهندگان و اخلال در فرآیندهای دموکراتیک است. انتشار اطلاعات نادرست درباره نامزدها یا نحوه رأی‌گیری، جعل هویت مسئولان انتخاباتی و سرکوب مشارکت رأی‌دهندگان ممنوع است. در عین حال، ممنوعیت کلی هدف‌گیری شخصی رأی‌دهندگان حذف شده تا کاربردهای مشروع مانند اطلاع‌رسانی مدنی و خدمات انتخاباتی امکان‌پذیر باشد.
- سخت‌گیری بیشتر در حوزه تسلیحات علاوه بر ساخت سلاح، توسعه نرم‌افزارها و اجزای کنترلی مرتبط با سلاح‌ها نیز صراحتاً ممنوع اعلام شده است. مسلح‌کردن پهپادها و سامانه‌های خودران با کمک Claude نیز ممنوع است.
- قوانین دقیق‌تر درباره نظارت و اجرای قانون استفاده از Claude برای ردیابی افراد بدون رضایت آن‌ها ممنوع است. Claude نباید برای تصمیم‌گیری درباره اینکه چه کسی تحت تحقیق، بازداشت یا پیگرد قرار گیرد استفاده شود. توسعه ابزارهای نظارتی با کمک Claude نیز ممنوع شده است.
- الزامات شفاف‌تر برای کاربردهای پرریسک در حوزه‌هایی مانند سلامت، امور مالی، حقوقی و خدمات ضروری، همچنان وجود «انسان ناظر» الزامی است. کاربران باید بدانند که در تصمیم‌گیری از هوش مصنوعی استفاده شده است. برای سیستم‌هایی که Claude را به تجهیزات فیزیکی متصل می‌کنند، اپراتور انسانی باید بتواند عملکرد دستگاه را مشاهده و در صورت لزوم متوقف کند.
- ممنوعیت رفتار آزاردهنده با مدل Anthropic بندی جدید اضافه کرده که رفتار مداوم و بی‌دلیل توهین‌آمیز یا خشن نسبت به Claude را ممنوع می‌کند. این قانون صرفاً برای موارد شدید در نظر گرفته شده و شامل انتقاد، نارضایتی عادی یا تست مدل نمی‌شود.
- شفاف‌سازی مناطق مجاز استفاده استفاده از Claude برای افراد یا شرکت‌های مستقر در مناطق غیرپشتیبانی‌شده، یا سازمان‌هایی که تحت مالکیت یا کنترل آن مناطق هستند، ممنوع باقی می‌ماند
چرا برای شما مهم است
برای مدیران فناوری، حقوقی، امنیت اطلاعات و انطباق، پیام اصلی این است که استفاده سازمانی از هوش مصنوعی فقط به کارایی محدود نمی‌شود و باید از ابتدا با سیاست داخلی، کنترل ریسک و الزامات انطباق هم‌راستا باشد. اگر در محصول، پشتیبانی یا فرایندهای داخلی از هوش مصنوعی استفاده می‌کنید، این نوع به‌روزرسانی‌ها نشان می‌دهد که مرزبندی میان استفاده مجاز، استفاده پرریسک و استفاده ممنوع باید از پیش روشن باشد.
منبع اصلی این خبر
Anthropic
این خبر روی کار شما چه اثری دارد؟
در یک جلسه‌ی نیم‌ساعته می‌گوییم آیا این تغییر واقعاً به کار شما مربوط است و اگر هست، اولین قدم چیست.
اگر این خدمات مناسب شما نباشد، صریحاً به شما می‌گویم.