فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
کشورهای دارنده بزرگ‌ترین ذخایر طلا، نقره و پلاتین در جهان در سال ۲۰۲۶ (+ اینفوگرافیک) تقویم روز ردپای آلودگی لاستیک خودرو در بروز آلزایمر برنامه ناسا برای روشن کردن آتش روی سطح ماه! کاهش قبض برق و گاز با چند راهکار ساده؛ هوشمندانه مصرف کنید (+ اینفوگرافیک) منظرۀ شهر «قصر شیرین» در سال 1312 شمسی از ستون فقرات تا دندان عقل؛ چرا بدن انسان این‌همه نقص دارد؟ معنی برچسب‌های محدودیت سرعت روی کامیون‌ها چیست؟ پمپ خون پنهان؛ جویدن چگونه به تقویت مغز کمک می‌کند؟ آتش‌سوزی گسترده در کوه‌های بلوار رسول اعظم(ص) شیراز علی‌اف: جمهوری آذربایجان در حال بررسی خروج کامل از شورای اروپا است ریزش ساختمان مسکونی در قم؛ پیکر یک نفر از زیر آوار خارج شد حملات آمریکا به ایران / صدای انفجار در کنارک، چابهار، کیش، قشم، بندرعباس و جم/ سپاه: انهدام پهپاد MQ1 در تنگه هرمز بازگشت محاصره ایران / توافق واقعا تمام شد بازداشت یک فرد مسلح در خارج از ساختمان کنگره آمریکا
نظرسنجی
قهرمان جام جهانی 2026 به پیش بینی شما؟