قابلیت جدید کلود: قطع چت در صورت سوءاستفاده کاربران
به گزارش زوم ارز، کلود (Claude) دستیار هوش مصنوعی شرکت Anthropic، اکنون توانایی پایان دادن به گفتگوها در صورت سوءاستفاده کاربران را به دست آورده است. این قابلیت جدید نخستین بار در نسخه‌های Claude Opus 4 و 4.1 فعال شده و هدف اصلی آن ارتقای رفاه کاربران و حفاظت بیشتر از مدل عنوان شده است.
این ویژگی تنها در شرایطی که Anthropic آن را «موارد لبه شدید» می‌نامد فعال می‌شود. به عنوان نمونه، اگر کاربر به طور مکرر درخواست محتوای غیرقانونی داشته باشد، ربات را آزار دهد یا پس از دریافت پاسخ منفی اصرار بیش از حد کند، کلود گفتگو را به طور کامل قطع خواهد کرد. در این حالت، مکالمه پایان یافته و امکان تجدیدنظر یا ادامه آن وجود نخواهد داشت. کاربر می‌تواند یک گفتگوی تازه در پنجره‌ای جدید آغاز کند، اما مکالمه قبلی برای همیشه بسته خواهد بود.
Anthropic اعلام کرده است که این تصمیم پس از انجام یک «ارزیابی مقدماتی رفاه مدل» اتخاذ شده است. بررسی‌ها نشان داده‌اند که کلود به طور طبیعی تمایل دارد از وظایف مضر اجتناب کند و در مواجهه با درخواست‌های آسیب‌زا نوعی «پریشانی» شبیه‌سازی شده از خود نشان می‌دهد. به همین دلیل، این شرکت تصمیم گرفت این رفتار را به یک قابلیت رسمی تبدیل کند تا همسو با تمرکز اصلی خود بر ایمنی و اخلاق در هوش مصنوعی باشد.
