۱۸ آبان ۱۴۰۳
به روز شده در: ۱۸ آبان ۱۴۰۳ - ۱۱:۰۶
فیلم بیشتر »»
کد خبر ۹۲۲۲۹۸
تاریخ انتشار: ۱۳:۱۵ - ۱۰-۰۹-۱۴۰۲
کد ۹۲۲۲۹۸
انتشار: ۱۳:۱۵ - ۱۰-۰۹-۱۴۰۲

گاف خطرناک هوش مصنوعی در حوزه چشم پزشکی

گاف خطرناک هوش مصنوعی در حوزه چشم پزشکی
یک جراح چشم گفت: GPT-۴ یک مجموعه داده جعلی از صد‌ها بیمار را در عرض چند دقیقه ایجاد کرده و این اتفاق یک تجربه غافلگیر کننده و در عین حال ترسناک برای او بوده است.
یک حقیقت رایج در میان آماردانان این است که «داده‌ها دروغ نمی‌گویند.» با این حال، یافته‌های اخیر محققان ایتالیایی ممکن است کسانی را که داده‌ها را مطالعه می‌کنند، وادار کند تا درباره این موضوع دوباره فکر کنند.
 
به گزارش ایرنا از techxplore.com، یک جراح چشم در دانشگاه کالیاری در ایتالیا، گزارش می‌دهد که ChatGPT مجموعه‌ای از داده‌های جعلی متقاعدکننده را برای پشتیبانی از یک عمل جراحی چشم نسبت به دیگری ایجاد کرده است.
 
این جراح چشم گفت: GPT-۴ یک مجموعه داده جعلی از صد‌ها بیمار را در عرض چند دقیقه ایجاد کرده و این اتفاق یک تجربه غافلگیر کننده و در عین حال ترسناک برای او بوده است. از زمانی که یک سال پیش این مدل هوش مصنوعی به دنیا معرفی شد، داستان‌های بی‌شماری از دستاورد‌ها و پتانسیل‌های بزرگ ChatGPT وجود داشته است، اما در کنار نکات مثبت این دستاورد، مخاطراتی نیز در خصوص تولید اطلاعات اشتباه یا کاملاً نادرست وجود داشته است.
 
جک ویلکینسون (Jack Wilkinson)، آمارشناس زیستی در دانشگاه منچستر، درانگلیس می‌گوید: «به نظر می‌رسد ایجاد مجموعه‌ای از داده‌ها که حداقل به صورت سطحی قابل قبول باشند، بسیار آسان است.
 
وی همچنین گفت: خروجی GTP-۴ «برای یک چشم آموزش ندیده (افراد غیر متخصص و عادی)، مطمئناً مانند یک مجموعه داده واقعی به نظر می‌رسد.»
 
مقاله‌ای تحت عنوان «Large Language Model Advanced Data Analysis Abuse to Create a Fake Data Set in Medical Research» که در مجله چشم پزشکی JAMA منتشر شده است، تصدیق می‌کند که بررسی دقیق‌تر داده‌ها می‌تواند نشانه‌های آشکار ساخت احتمالی را نشان دهد.
 
کارشناسان می‌گویند از آنجا که خروجی تولید شده توسط هوش مصنوعی مطالعات واقعی را آلوده می‌کند، از آن می‌توانیم در توسعه رویکرد‌های بهتر برای کشف تقلب هم استفاده کنیم.
 
هدف تحقیقات مختلف در این حوزه، روشن کردن جنبه تاریک هوش مصنوعی، با نشان دادن اینکه چقدر ایجاد و دستکاری داده‌ها برای دستیابی به نتایج مغرضانه و تولید شواهد پزشکی نادرست آسان است، بیان شده است. هنوز نمی‌دانیم جامعه علمی در برابر سوء استفاده‌ها و تهدیدات احتمالی مرتبط با هوش مصنوعی چه واکنشی نشان خواهد داد.
ارسال به دوستان
قیمت طلا، سکه و ارز امروز ۱۸ آبان ۱۴۰۳/ سکه یک کانال سقوط کرد طوفان در کوبا؛ قطع سراسری برق، سقوط درختان و آسیب به زیرساخت‌ها آغاز ثبت گمرکی آیفون مسافری در فرودگاه امام خمینی تحلیل جورج فریدمن از پشت پرده تداوم جنگ های بدون برنده در خاورمیانه / «ایران بزرگترین ارتش خاورمیانه را دارد» وزیر کشور: روند کنترل و انسداد مرزها شدت گرفته است توقیف آمبولانس‌های بدون مجوز با دستور قضایی انفجار بر اثر نشت گاز در حسینیه ارشاد همدان / شیشه منازل اطراف شکست و برق محله قطع شد کامالا هریس؛ شکست به خاطر اروپایی‌بازی/ 60 سال قبل در تهران: ترور نخست‌وزیر به دلیل آمریکایی‌بازی؟! هواشناسی: بارش پراکنده و وزش باد در برخی استان‌ها کلاس‌ درس دانش‌آموزان اتباع جداسازی نمی شوند پوتین پس از پیروزی ترامپ او را «شجاع» توصیف کرد انصراف ماکرون و شولتس از شرکت در کوپ۲۹ / چرا رهبران کشورهای غربی در نشست باکو شرکت نمی‌کنند؟ اسرائیل در تدارک حمله به عراق است فواد حسین: عراق میدان نبرد ایران و آمریکا نیست / ایران از عراق به اسرائیل حمله نمی‌کند امروز با حافظ: گُل به بویِ تو بر تن چو صبح جامه درید