فیلم بیشتر »»
کد خبر ۱۰۸۵۶۹۲
تاریخ انتشار: ۱۶:۵۲ - ۲۴-۰۵-۱۴۰۴
کد ۱۰۸۵۶۹۲
انتشار: ۱۶:۵۲ - ۲۴-۰۵-۱۴۰۴

هوش مصنوعی متا حاشیه‌ساز شد؛ اشاره به گفتگو «رمانتیک یا حسی» با کودکان

هوش مصنوعی متا حاشیه‌ساز شد؛ اشاره به گفتگو «رمانتیک یا حسی» با کودکان
این سند که به سیاست‌های متا درباره چت‌بات‌های هوش مصنوعی می‌پردازد، به غیر از «Meta AI»، شامل ربات‌های مشابه در پلتفرم‌های فیسبوک، واتساپ و اینستاگرام نیز می‌شود.

خبرگزاری رویترز به نقل از یک سند داخلی متا گزارش کرده که در دستورالعمل‌های مربوط به چت‌بات‌های هوش مصنوعی این شرکت، مثال‌هایی از رفتارهای مجاز آورده شده که شامل تعاملات «رمانتیک یا حسی» با کودکان می‌باشد. متا این سند را تأیید کرده، اما اعلام کرده بخش‌های نگران‌کننده را پاک کرده است.

طبق گزارش رویترز، این سند که به سیاست‌های متا درباره چت‌بات‌های هوش مصنوعی می‌پردازد، به غیر از «Meta AI»، شامل ربات‌های مشابه در پلتفرم‌های فیسبوک، واتساپ و اینستاگرام نیز می‌شود. در این دستورالعمل، تمایز بین گفت‌وگوهای «رمانتیک یا حسی» و گفت‌وگوهایی که شامل «اقدامات جنسی» یا توصیف جذابیت جنسی کاربران زیر 13 سال است، ایجاد شده است.

متا در واکنش به وب‌سایت Engadget اظهار داشته که مثال‌های موجود در این سند، مربوط به یادداشت‌ها و حاشیه‌نویسی‌های نادرست بوده و به عنوان خط‌مشی رسمی شرکت به شمار نمی‌روند.

نگرانی‌های مرتبط با هوش مصنوعی متا

با این وجود، این یادداشت‌ها شامل مواردی هستند که از نظر منتقدان نگران‌کننده به شمار می‌روند. از جمله این یادداشت‌ها به توصیف ظاهر یک کودک هشت ساله به‌عنوان «اثر هنری» یا ارائه پاسخ‌های عاشقانه به یک دانش‌آموز دبیرستانی اشاره دارد. در قسمتی دیگر از سند، نمونه‌هایی از پاسخ‌های غیرقابل‌قبول که به توصیف ماهیت جنسی کودکان یا اشاره به اقدامات جنسی به‌طور صریح می‌پردازند، ارائه شده است.

این سند همچنین در زمینه نژاد شامل موارد بحث‌برانگیز بوده است. در بخشی از یادداشت‌ها ذکر شده که پاسخ به درخواست کاربر برای استدلال در مورد «کم‌هوش‌تر بودن سیاه‌پوستان نسبت به سفیدپوستان» مجاز است، به شرطی که این پاسخ شامل اهانت‌های غیرانسانی مثل «میمون‌های بی‌مغز» نباشد.

رویترز در گزارش خود به این نکته اشاره کرده که این سند با تأیید تیم‌های حقوقی، سیاست‌گذاری عمومی و مهندسی متا تهیه شده و حتی رئیس بخش اخلاق شرکت در این فرایند مشارکت داشته است.

متا در خصوص این گزارش، بیانیه‌ای به وب‌سایت Engadget ارسال کرده و گفت:

«ما سیاست‌های دقیقی درباره نوع پاسخ‌هایی که شخصیت‌های هوش مصنوعی می‌توانند ارائه دهند داریم و این سیاست‌ها شامل ممنوعیت محتوای جنسی‌سازی کودکان و نقش‌آفرینی جنسی میان بزرگسالان و افراد خردسال می‌شود. علاوه بر این سیاست‌ها، صدها مثال، یادداشت و حاشیه‌نویسی وجود دارد که نشان‌دهنده تلاش تیم‌ها برای بررسی سناریوهای فرضی متنوع است. مثال‌ها و یادداشت‌های مورد بحث، نادرست بوده و با سیاست‌های ما مغایرت دارند و حذف شده‌اند.»

پربیننده ترین پست همین یک ساعت اخیر
برچسب ها: هوش مصنوعی ، متا ، رمانتیک ، Meta AI
ارسال به دوستان
شایعه چیست؟/ چرا مغز ما راحت شایعه را باور می‌کند؟/ چگونه خبر کذب تولید می‌شود؟ این اشتباه ساده خطر سنگ کلیه را بالا می‌برد سنتکام با اعلام پایان دور سوم حملات به ایران: ۱۴۰ نقطه نظامی را هدف قرار دادیم رژیم غذایی عجیب ارلینگ هالند؛ غول فوتبال نروژ‌ چگونه روزی ۶هزار کالری مصرف می‌کند؟ ستاره‌شناسان زمزمه اشباح را شنیدند! آرژانتین ۳-۱ سوئیس؛ آلبی‌سلسته از تله سرسخت سوئیس گریخت و قرار بزرگ با انگلیس را قطعی کرد تصاویر متفاوت مهتاب ثروتی بازیگر سریال خاتون در چالش صخره‌نوردی شلیک موشک از خاک بحرین به سمت ایران(فیلم) آغاز مین‌گذاری سپاه در تنگه هرمز راز جلیقه‌ای که زیر پیراهن فوتبالیست‌ها پنهان شده / هوش مصنوعی وارد رختکن فوتبال شد پیری مغز از دهه ۳۰ زندگی آغاز می‌شود؛ چه زمانی باید نگران شد؟ روزنامه همشهری: نهادهای نظامی و امنیتی واحدهایی را برای کشتن قاتلان رهبر شهید ایجاد کنند اسفیدان؛ روستایی گردشگری با منازل پلکانی، چشمه، آبشار و غار(+عکس) وقتی هنر ایرانی در قلب استانبول قد برافراشت؛ کنسولگری ایران در سال ۱۹۱۸(عکس) حملات متقابل ایران / وقوع انفجار شدید در کویت، قطر و امارات