فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
غزاله اکرمی با کلاه و کت جین در اکران کوری (+عکس) بزرگانی همچون آقای خاتمی مورد تکریم قرار گیرند / باید تغییرات جدی صورت گیرد/ خدا نیامرزد کسی را که «بگم‌بگم» راه انداخت رئیس‌جمهور کوبا: در برابر جلادهای آمریکایی پیروز خواهیم شد سخنگوی وزارت دفاع: دو برابر شدن تولید تسلیحات و تجهیزات دفاعی در یک سال گذشته حمله پهپادی روسیه به زادگاه زلنسکی/ ۱۴ کشته و ۱۲۰ زخمی ترکیه: نتانیاهو با اتهام‌زنی به اردوغان نمی‌تواند از مسئولیت جنایاتش فرار کند سرلشکر وحیدی: دشمنان هیچ‌گاه از کینه توزی و توطئه علیه ملت بزرگ ایران دست برنمی‌دارند   پایان تشکیلات خودگردان کردهای سوریه / تکمیل ادغام نیروها و نهادهای کرد سوریه در ساختار دولت مرکزی رئیس ستاد مرکزی اربعین: بیش از ۳ میلیون و ۵۰۰ هزار ایرانی امسال در مراسم اربعین شرکت کردند حکم نهایی نظام وظیفه؛ بیرانوند از مهرماه سرباز است اعضای ناتو درباره تنگه هرمز گفت‌وگو کردند 4 ابزار خانگی که زمان را شکست دادند و ظاهرا تا ابد وجود خواهند داشت! (+اینفوگرافیک) تصاویری از اشیایی که هر روز می بینیم اما نمی شناسیم! اینترسپت: موساد متحمل شکستی سنگین در قبال ایران شد  گفت‌وگوی وزرای خارجه ایران و عمان 
نظرسنجی
با توجه به بحرانی شدن وضعیت بنزین در ایران، شما کدام روش را برای مدیریت آن بهتر یا کم ضررتر می دانید؟