۱۶ بهمن ۱۴۰۴
به روز شده در: ۱۶ بهمن ۱۴۰۴ - ۱۰:۰۹
فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
مقایسه اقتصادهای بزرگ در سال‌های ۱۹۸۰ و ۲۰۲۵ + اینفوگرافی «نرسی کرکیا» بازیگر قبل و بعد انقلاب در اواخر عمرش؛ اوایل دهه 80(عکس) تعرض جنسی یک پزشک به دو زن در لندن، خبرساز شد بازار جهانی در نوسان شدید / طلا و نقره دوباره ارزان شدند AMG GT 63 S E-Performance؛ این نام یعنی یکی از بهترین های مرسدس در تمام دوران (+عکس) علی نصیریان: شریک غمتان‌ هستم روسیه: خود را به‌عنوان میانجی به ایران و آمریکا تحمیل نمی‌کنیم «اسب گریان»؛ اشتباهی که پرفروش شده است (+عکس) آخرین وضعیت راه های کشور / در این ۱۲ استان برف و باران می بارد رویترز: آمریکا با همکاری رئیس جمهور موقت ونزوئلا، متحد نزدیک مادورو را دستگیر کرد نگرانی تل‌آویو از حملات موشکی یمن در صورت درگیری آمریکا با ایران ونس: اگر ایران سلاح هسته‌ای داشته باشد، همه به‌دنبال آن خواهند بود آسمان ایران بعد از تنش امکان لغو مذاکرات (عکس) «رحیم آب منگل» فیلم قیصر در دوران پیری؛ دهه 90(عکس) وانتی از ۲۱ سال پیش که خریداران هنوز آن را به محصولات روز ترجیح می‌دهند! (+عکس)