فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
بی بی سی : جزئیات خسارت حملات ایران به مراکز آمریکا در منطقه (+ عکس ماهواره ای) دستگیری عامل آتش‌سوزی عمدی در تهران لغو قرارداد ۲ میلیون دلاری یک کتاب جنایی به دلیل ابهامات استفاده از هوش مصنوعی «اسپایدرمن: روز کاملاً جدید» با رکوردشکنی از راه رسید بازگشت قدرتمند «بی‌تی‌اس» به صحنه فاجعه‌ای که تزریق فیلر آفرید / دستگیری ۲ برادر با لباس پزشک اکران آنلاین فیلم «صد سال به این سال‌ها» بعد از 19 سال توقیف شایعات منتشر شده درباره تخلیه جاسک صحت دارد؟ شکایت سازندگان فیلم جدید نیکلاس کیج از نتفلیکس به اتهام سرقت نحوه فعالیت مدارس برای سال تحصیلی آینده مشخص شد پایان فیلمبرداری اثر جدید نوری بیلگه جیلان تکذیب حمله به اسلام‌آباد غرب / انفجار گلوله توپ زمان دفاع مقدس جلو زدن بهرام افشاری و امین حیایی در گیشه ادامه مفقودی ۱۷ صیاد ایرانی در دریای عمان / خانواده ها پیگر ؛ مسوولان، ساکت کشف کتیبه سنگی در دبیرستان انوشیروان دادگر تهران