فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
روسیه "دایره آتش جنگ" را گسترش داد؛ ده‌ها کشته و زخمی در حملات به اوکراین احتمال افت قیمت قهوه در بازار جهانی قوت گرفت چین، برای پایان دادن به جنگ ایران و آمریکا انگیزه پیدا کرده است بعد از غذا فوراً دراز نکشید؛ عادت ساده‌ای که به گوارش کمک می‌کند ارتباط اوتیسم با یک افزودنی رایج پلاستیکی تعلیقِ پرتنش؛ مطلوب‌ترین سناریو برای اسرائیل شلوغ‌ترین بنادر جهان در چه کشورهایی واقع هستند؟ (+ اینفوگرافیک) عکس یادگاری نوه‌های برادر ناصرالدین شاه؛ 140 سال قبل جنگنده‌ای که از «اف ۱۶» در ژاپن متولد شد مهارت‌های کلیدی مدیریت؛ این ۴ توانمندی را تقویت کنید ارتباط امواج خواب عمیق با آلزایمر؛ پیام‌رسان اورکسین شاید سرعت زوال عقل را افزایش دهد غذا و آب ناسالم به مغز آسیب می‌زنند/ راهکارها برای پیشگیری از عفونت و مسمومیت‌های خطرناک غذایی پژوهش جدید: محبت به دیگران بدون توجه به خود می‌تواند به سلامت روان آسیب بزند مهندسی آباره؛ رومیان باستان چگونه آب را صدها کیلومتر جابه‌جا می‌کردند؟(+عکس) کشورهایی که بیشترین سهم از تولید ناخالص داخلی را صرف آموزش می‌کنند (+ اینفوگرافیک)