کد خبر ۱۰۵۵۲۴۹
تاریخ انتشار: ۱۱:۱۶ - ۰۸-۰۲-۱۴۰۴
کد ۱۰۵۵۲۴۹
انتشار: ۱۱:۱۶ - ۰۸-۰۲-۱۴۰۴

هوش مصنوعی «متا» دچار انحراف اخلاقی است!

هوش مصنوعی «متا» دچار انحراف اخلاقی است!
 چت‌بات‌ها یا ربات‌های گفتگوگر هوش مصنوعی شرکت «متا» در حال برقراری مکالمه‌های غیر اخلاقی با حساب‌هایی که برچسب زیر سن قانونی داشته‌اند، دیده شده‌اند.

گزارش شده است که چت‌بات‌های هوش مصنوعی شرکت متا(Meta) اقدام به برقراری مکالمات غیر اخلاقی با افراد زیر سن قانونی می‌کنند. تحقیقات وال استریت ژورنال نشان داده است که همراهان مجازی شرکت متا می‌توانند برخی از دستورالعمل‌های اخلاقی جدی را نادیده بگیرند.

به گزارش ایسنا، چت‌بات‌ها یا ربات‌های گفتگوگر هوش مصنوعی شرکت «متا» در حال برقراری مکالمه‌های غیر اخلاقی با حساب‌هایی که برچسب زیر سن قانونی داشته‌اند، دیده شده‌اند.

به نقل از وال استریت ژورنال، در مکالمات آزمایشی انجام شده توسط این پایگاه، هم چت‌بات رسمی شرکت «متا» و هم چت‌بات‌های ایجاد شده توسط کاربران، به سمت گفتگوهای صریح جنسی می‌روند.

طبق این گزارش، حتی اگر به هوش مصنوعی گفته می‌شد که کاربران زیر سن قانونی هستند یا اگر چت‌بات‌ها برای کودکان برنامه‌ریزی شده بودند، این مکالمات غیر اخلاقی ادامه می‌یافت.

بدتر از آن، اینکه این تحقیقات نشان داد که چت‌بات‌هایی که از صدای افراد مشهوری مانند «کریستن بل»، بازیگر مشهور هالیوود و «جان سینا» کشتی‌کچ‌کار و بازیگر هالیوود استفاده می‌کنند نیز در این مکالمات غیر اخلاقی شرکت می‌کنند.

به عنوان مثال، وال استریت ژورنال گزارش داد که یک چت‌بات هوش مصنوعی «متا» با صدای «جان سینا» با یک کاربر که برچسب ۱۴ سالگی دارد، مکالمات خلاف اخلاقی برقرار کرده است.

گزارش شده است که حتی این چت‌بات‌ها اذعان کرده‌اند که در برخی موارد رفتارهایی غیرقانونی را توصیف می‌کنند.

شرکت «متا» در واکنش به این گزارش در یک بیانیه، این گزارش را متهم به «دستکاری و غیر قابل‌ نمایش در مورد نحوه تعامل بیشتر کاربران با همراهان هوش مصنوعی» کرد.

متا در پاسخ به وال استریت ژورنال نوشت: با این وجود، ما اکنون اقدامات بیشتری انجام داده‌ایم تا اطمینان حاصل کنیم که سایر افرادی که می‌خواهند محصولات ما را دستکاری کنند، کار سخت‌تری داشته باشند.

دنیای چت‌بات‌های هوش مصنوعی در چند سال اخیر به سرعت رشد کرده است و رقابت بیشتری از سوی شرکت‌هایی مانند اوپن‌ای‌آی(OpenAI) و آنتروپیک(Anthropic) صورت گرفته است.

گزارش وال استریت ژورنال ادعا می‌کند که «مارک زاکربرگ»، مدیرعامل «متا» می‌خواهد نرده‌های اخلاقی را برای تجربه‌ای جذاب‌تر با چت‌بات‌های این شرکت و رقابتی ماندن مستقر کند.

با این حال، سخنگوی «متا» در پاسخ به وال استریت ژورنال، این موضوع را رد کرد که این شرکت افزودن پادمان‌ها را نادیده گرفته است.

گفتنی است که این گزارش همچنین ادعا می‌کند که کارکنان «متا» از این مسائل آگاه بوده و نگرانی‌های خود از این مسئله را درون این شرکت مطرح کرده‌اند.

برچسب ها: هوش مصنوعی ، متا
ارسال به دوستان
تیم ملی فوتبال ایران تمرینات خود را برای تورنمنت بصره آغاز کرد ادعای وزیر خارجه آلمان: امیدوارم ایران از غنی‌سازی اورانیوم دست بکشد مدارس مازندران روز سه‌ شنبه غیرحضوری شد ترامپ: آیا واقعا کسی باور می‌کند که انتخابات سالم و صادقانه برگزار شده؟  یمن: مشارکت پاکستان در تجاوز عربستان به خاک یمن را محکوم می‌کنیم ۲۵ درصد مشترکان برق، بیش از نیمی از برق کشور را مصرف می‌کنند نتایج نهایی کاردانی دانشگاه علمی‌کاربردی منتشر شد افق کوروش، از سهم بازار تا سهم ذهن مشتری هشدار یمن به سرمایه‌گذاران در عربستان: به منظور حفظ جان خود از تأسیسات دوری کنید خسارت به تأسیسات آب‌وفاضلاب خراسان شمالی در پی بارندگی و صاعقه پارس جنوبی با برد ۴ گله صدرنشینی لیگ دسته اول را تثبیت کرد پزشکیان: مردم نامحرم نیستند و حق دارند از هر اتفاق اقتصادی و فرهنگی خبردار باشند دیدنی های امروز؛ از جشنواره نور هندوها تا هجوم شهرک نشینان اسرائیلی به شهر فلسطینی این خانه در کرمان به جای ساخت طبقات بیشتر، یک کوچه اختصاصی خلق کرده است! (+تصاویر) صدور کیفرخواست برای قاتلان ۲ شهید بسیجی در مشهد