امروز: ۲۰۲۶/۱۱/۲۱ — تحریریه هوشمند ریکارت
عبارت مورد نظر خود را تایپ کنید تا نتایج به صورت آنی ظاهر شوند...
صفحه نخست / فناوری و AI / پژوهش جدید: فحاشی به هوش مصنوعی احتمال دری...
فناوری و AI

پژوهش جدید: فحاشی به هوش مصنوعی احتمال دریافت پاسخ‌های مفید را کاهش می‌دهد

مردان یک‌سوم بیشتر از زنان به چت‌بات‌های هوش مصنوعی فحاشی می‌کنند. The post پژوهش جدید: فحاشی به هوش مصنوعی احتمال دریافت پاسخ‌های مفید را کاهش می‌دهد appeared first on دیجیاتو . دیجیاتو را در گوگل بیشتر ببینید کپی لینک 0 در دیجیاتو ثبت‌نام کنید جهت بهره‌مندی و دسترسی ب...
پژوهش جدید: فحاشی به هوش مصنوعی احتمال دریافت پاسخ‌های مفید را کاهش می‌دهد
عکس گزارش: Digiato

مردان یک‌سوم بیشتر از زنان به چت‌بات‌های هوش مصنوعی فحاشی می‌کنند.

دیجیاتو را در گوگل بیشتر ببینید کپی لینک 0 در دیجیاتو ثبت‌نام کنید جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

شاید تصور کنید که هنگام گفتگو با چت‌بات‌ها رفتاری خنثی یا حتی محترمانه دارید و این موضوع چندان برایتان اهمیت نداشته باشد. البته تنها شما چنین رفتاری ندارید، اما ظاهراً تعداد قابل‌توجهی از کاربران به رعایت ادب در گفتگو با هوش مصنوعی اهمیت نمی‌دهند.

براساس گزارش پلتفرم هوش مصنوعی Searchable با عنوان «آمریکایی‌ها چقدر با چت‌بات‌های هوش مصنوعی بی‌ادب هستند؟»، از هر سه کاربر آمریکایی چت‌بات‌ها، یک نفر تاکنون به یک چت‌بات فحاشی یا به آن توهین کرده است. نکته جالب‌تر اینکه این رفتار ظاهراً کمکی به کاربران نمی‌کند و حتی ممکن است احتمال دریافت پاسخ مفید را کاهش دهد.

تحقیق Searchable با بررسی بیش از ۸ میلیون پیام ارسال‌شده به ابزارهای هوش مصنوعی طی یک سال انجام شده است. این نتایج نشان می‌دهد وقتی کاربری بدون فحاشی یا توهین از پاسخ چت‌بات شکایت می‌کند، چت‌بات در ۳۵ درصد مواقع در پاسخ بعدی مشکل را برطرف می‌کند. اما وقتی کاربر از الفاظ توهین‌آمیز استفاده می‌کند، این رقم به ۲۴ درصد کاهش می‌یابد.

پژوهشگران هوش مصنوعی هنوز دقیقاً نمی‌دانند چرا چنین اتفاقی می‌افتد. بااین‌حال، «اسکات والدز»، یکی از بنیان‌گذاران و مدیرعامل Ari و بنیان‌گذار VIDA Select، در مقاله‌ای درباره اهمیت رعایت ادب هنگام گفتگو با هوش مصنوعی، احتمال داده است که دلیل این مسئله به زمینه و نحوه تعامل کاربران مربوط باشد.

او توضیح می‌دهد: «سیستم‌های هوش مصنوعی از میلیون‌ها تعامل انسانی یاد می‌گیرند؛ تعاملاتی که در آن‌ها گفت‌وگوهای محترمانه و دوطرفه معمولاً به مکالمات غنی‌تر و دقیق‌تری منجر می‌شوند. وقتی کاربران همین سبک را در پیش می‌گیرند، می‌توانند پاسخ‌های پیشرفته‌تری دریافت کنند؛ مثلاً به‌جای توصیه‌های کلی، راهنمایی‌های شخصی‌سازی‌شده بگیرند.»

این پژوهش همچنین نشان می‌دهد برخی کاربران هوش مصنوعی خیلی زود از کوره در می‌روند. رایج‌ترین دلیل استفاده از الفاظ توهین‌آمیز، انجام ندادن درخواست کاربر توسط چت‌بات است (۱۹ درصد). پاسخ اشتباه چت‌بات با ۱۸ درصد و درک نادرست درخواست کاربر با ۱۵ درصد در رتبه‌های بعدی قرار دارند.

نکته جالب اینکه مردان هنگام گفتگو با چت‌بات‌ها یک‌سوم بیشتر از زنان از فحاشی و الفاظ توهین‌آمیز استفاده می‌کنند. همچنین افراد ۳۵ تا ۴۴ ساله بددهن‌ترین گروه سنی در این زمینه هستند.

تغییرات جدید سیاست استفاده از آنتروپیک باعث شده برخی کاربران درباره محدودیت‌های رفتار با هوش مصنوعی و اینکه چه کارهایی هنگام گفتگو با آن مجاز است، کنجکاو شوند. البته تفاوت زیادی میان گفتن اینکه یک چت‌بات اشتباه می‌کند و توهین مستقیم به آن وجود دارد و به نظر می‌رسد سیاست آنتروپیک نیز این تفاوت را در نظر گرفته است.

این شرکت در توضیح سیاست جدید خود اعلام کرد: «این به‌روزرسانی فقط برای موارد افراطی در نظر گرفته شده است؛ یعنی زمانی که کاربران به‌طور مکرر و بدون هیچ هدف مشخصی با مدل‌های ما رفتارهای بی‌رحمانه دارند. این سیاست شامل موارد معمولی مانند نارضایتی کاربران، مخالفت با پاسخ‌ها، موضوعات تاریک در آثار خلاقانه یا آزمایش و پژوهش روی مدل‌ها نمی‌شود.»

آنتروپیک می‌گوید Claude عمدتاً با پایان دادن به مکالمات کاربرانی که به‌طور مداوم رفتار توهین‌آمیز دارند، این قانون را اجرا خواهد کرد. بااین‌حال، نتایج این پژوهش همچنان نشان می‌دهد که استفاده از لحنی ساده و خنثی می‌تواند به دریافت پاسخ‌های بهتر منجر شود.

برچسب‌ها: #هوش مصنوعی #گوگل
ارجاع مستقیم به منبع خبر
رصد و گزارش اولیه از پایگاه Digiato
مشاهده در وبگاه مبدا ↗

مطالب پیشنهادی و مرتبط

بررسی طرح ساماندهی فضای مجازی در مجلس دوباره از سر گرفته شد
فناوری و AI ۳۰ آبان • ۱۶:۴۰

بررسی طرح ساماندهی فضای مجازی در مجلس دوباره از سر گرفته شد

کمیته فضای مجازی مجلس با حضور نماینده‌های صداوسیما و وزارت ارشاد، بررسی طرح ساماندهی فضای مجازی را از سرگرفت. تبلیغات یک عضو کمیته فضای مجازی کمیسیون فرهنگی مجلس شورای اسلامی گفت: در نشست امروز کمیسیون بررسی طرح ساماندهی فضای مجازی از سر گرفته شد و در تلاش هستیم که هر چ...

مذاکرات بین المللی در مورد کنترل استفاده از تسلیحات خودمختار با شکست مواجه شد
فناوری و AI ۳۰ آبان • ۱۶:۴۵

مذاکرات بین المللی در مورد کنترل استفاده از تسلیحات خودمختار با شکست مواجه شد

تلاش‌های یک هفته‌ای برای ایجاد دستور مذاکره در مورد جنگ هوش مصنوعی پس از «فیلوبسترینگ» روسیه شکست خورد. تلاش‌های یک هفته‌ای برای توافق بر سر دستور مذاکره برای یک معاهده بین‌المللی الزام‌آور برای کنترل استفاده از تسلیحات خودمختار درست قبل از ساعت ۵ صبح روز شنبه شکست خورد...

هشدار ترامپ به شرکت‌های فناوری: ساخت دیتاسنتر در خارج از آمریکا مشمول مالیات سنگین می‌شود
فناوری و AI ۳۰ آبان • ۱۵:۳۴

هشدار ترامپ به شرکت‌های فناوری: ساخت دیتاسنتر در خارج از آمریکا مشمول مالیات سنگین می‌شود

این تهدید درحالی مطرح می‌شود که محدودیت‌های محلی در آمریکا، شرکت‌ها را به ساخت دیتاسنتر در خارج هدایت کرده است. The post هشدار ترامپ به شرکت‌های فناوری: ساخت دیتاسنتر در خارج از آمریکا مشمول مالیات سنگین می‌شود appeared first on دیجیاتو . دیجیاتو را در گوگل بیشتر ببینید...