فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
هوا در ایران دو چهره می‌شود؛ گرمای غیرعادی در شمال و بارش‌های موسمی در جنوب پس از کبودی دست و تورم مچ پا؛ نگرانی تازه درباره سلامت ترامپ کشتی آزاد جوانان ایران چهارم جهان شد؛ آمریکا قهرمان رقابت‌ها آلومینیوم اراک ۲ ـ شمس‌آذر ۱؛ صعود شاگردان قربانی به رده دوم استقلال خوزستان ۱ ـ نساجی ۱؛ نخستین امتیاز دو تیم در لیگ برتر رئیس سنای آمریکا: به زودی وارد مرحله جدیدی از جنگ با ایران می‌شویم استقلال ۲ ـ سپاهان صفر؛ سومین برد پیاپی آبی‌پوشان در لیگ برتر طلای سنگین‌وزن ایران در جهان؛ ابوالفضل محمدنژاد قهرمان جوانان شد کشف و جمع‌آوری بیش از ۲۱۰۰ کارت سوخت غیرمجاز در کردستان لیورپول در آخرین ثانیه‌ها از شکست مقابل نیوکاسل فرار کرد وقتی معاون وزیر اقتصاد دولت قبل, با «گل» سر کار گذاشته شد! استقلال با گل آسانی به رکورد تاریخی ۱۱۰۰ گل در لیگ برتر رسید پرداخت هفت هزار میلیارد تومان تسهیلات حفظ اشتغال برای بنگاه های متاثر از جنگ چادرملو علیه گل‌گهر و فدراسیون؛ «اجازه قربانی شدن فوتبال را نمی‌دهیم» کشف جسد مرد ۲۸ ساله در رودخانه دز؛ هویت او هنوز مشخص نیست