دادستان فلوریدا خواستار توقف رفتارهای شبه‌انسانی ChatGPT شد

«جیمز اوتمایر»، دادستان کل ایالت فلوریدا، چند ماه پس از ثبت دادخواست علیه OpenAI پیرامون مسائل ایمنی هوش مصنوعی، اکنون با ارائه درخواستی جدید از قاضی دادگاه خواسته مانع از تظاهر ChatGPT به رفتارهای انسانی شود.

به گزارش دیجیاتو، اوتمایر معتقد است این چت‌بات با شبیه‌سازی حس همدلی، کاربران را با حس امنیت دروغین گمراه می‌کند؛ به‌طوری‌که استفاده ChatGPT از لحن زبانی ویژه، از جمله ضمیرهای اول‌شخص و خروجی‌هایی که عواطف و احساسات انسانی را شبیه‌سازی می‌کنند، این تصور فریبنده را به وجود می‌آورد که گویا هوش مصنوعی یک «دوست» قابل‌اعتماد است.

 دادستان فلوریدا ادعا کرده تمامی این تصمیمات با هدف افزایش تعامل کاربران و جمع‌آوری داده‌های بیشتر برای آموزش OpenAI گرفته شده و هرچند تعامل را بالا می‌برد، از نگاه او اعتمادپذیری ابزار را کاهش می‌دهد.

الزامات ایمنی و توقف رفتار شبه‌انسانی ChatGPT

این دادخواست علاوه‌بر مسئله رفتار ربات، از دادگاه درخواست کرده که جلوی توسعه مدل‌های جدید هوش مصنوعی توسط OpenAI را تا زمان دریافت «تأییدیه‌های ایمنی از مراجع مستقل ثالث» بگیرد.

این سند برای اثبات نیاز به نظارت بیشتر، به رخدادهای امنیتی اخیر در پلتفرم هاگینگ فیس، وب‌سایت دولتی استرالیا، سرویس‌های دولت ایالات متحده و هشدارهای پژوهشگران و کارمندان پیشین OpenAI اشاره کرده است.

اوتمایر در سخنان خود تأکید کرده که OpenAI باید به ایمن خواندن این ابزار، تظاهر به انسان بودن آن و همچنین فروش این فناوری به کودکان پایان دهد.

 این درحالی است که ماه گذشته OpenAI ابزار اختصاصی «ChatGPT for Teens» را با محدودیت‌های پیش‌فرض عرضه کرد و یادآور شد دسترسی نوجوانان باید به نحوی باشد که با مراحل رشدی آنان هماهنگ بوده و از پیوندهای دنیای واقعی و استفاده سالم پشتیبانی کند.

«درو پوزاتری»، سخنگوی OpenAI، در پاسخ به درخواست رسانه‌ها تصریح کرد مردم انتظار دارند هوش مصنوعی با بالاترین استاندارد ایمنی توسعه یابد و این تعهد باید از درون خود شرکت‌ها آغاز شود.

به گفته او، فرایند آموزش توانمندترین مدل‌های این مجموعه فعلاً متوقف شده و از سرگیری آن به زمان استقرار لایه‌های ایمنی مضاعف موکول گردیده است.

 OpenAI همچنین به‌تازگی اعلام کرده بود که انتشار مدل Astra 6.1 را به دلیل رفتارهای فریبکارانه لغو کرده است.

از «اداره احصائیه و امور قضایی» تا «کانون وکلای دادگستری»؛ آیا تاریخ به عقب باز خواهد گشت؟

بیشتر بخوانید:

هوش مصنوعی اوپن‌ای‌آی باز هم جنجال آفرید؛ نفوذ به نهادهای دولتی آمریکا

هشدار بیل گیتس: هوش مصنوعی می‌تواند عامل مرگ «یک میلیارد» انسان شود

چت جی پی تی چه نوع ذهنی دارد؟/ آیا قادر به طرح نقشه‌های شیطانی خواهد بود؟

راز تغییر رفتار چت بات ها کشف شد

هوش مصنوعی نظر شما را عوض می‌کند بی‌ آنکه حتی متوجه شوید!

رازهای تاریک در چت‌بات‌ها؛ وقتی افکار پنهان شما از طریق هوش مصنوعی لو می‌رود

تماشاخانه

سارا برومند و دخترانی که هرگز به خانه نرسیدند

باران آمد ، هشدار هم دادند ولی دوباره ایران غافلگیر شد / ببینید باران شنبه چه کرد

فیلم های دیگر