فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
ادعای رویترز: دیدار محرمانه حزب الله لبنان و دولت جدید سوریه در ترکیه قیمت دلار، طلا و سکه امروز پنجشنبه ۹ مهر ۱۴۰۵ ضیافت شام پادشاه اسپانیا برای مکرون (+عکس) / هدیه پادشاه به مکرون چه بود؟ نمایندگی ایران: هیات ایرانی طبق برنامه نیویورک را ترک کرد تحلیل یک روزنامه از پشت‌پرده حادثه فلای‌دبی: توطئه علیه ایران است فرانسه بدهکار «بیمار جدید اروپا» لقب گرفت معمای برند اتاق بازرگانی ایران؛‌ صدای بخش خصوصی، شریک دولت یا باشگاه بزرگان؟ کالابرگ در آستانه افزایش/ملک و خودرو شرط جدید دولت شد بیانیه سپاه در پی خروج ایالات متحده از عراق هشدار بانک مرکزی درباره کلاهبرداری با عنوان خرید و فروش وام اتاق بازرگانی تهران چند صدا دارد؟ بررسی برند چهره‌های فعال از محمود نجفی‌عرب تا فرزین فردیس معاون فناوری وزیر ارتباطات: فیلترینگ نباید تنها ابزار مدیریت فضای مجازی باشد/ با فناوری اینترنت ماهواره‌ای مخالف نیستیم لوله کش اسرائیلی که می گویند هواپیمای فلای دبی را از سقوط نجات داد (+عکس) افزایش قیمت نفت متوقف شد تکذیب وقوع حادثه امنیتی در 2 شهرستان