فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
قالییاف وارد مسقط شد آرژانتین۲-۰ اتریش/حتی یک دقیقه از آخرین رقص بهترین بازیکن تاریخ را از دست ندهید چرا بازی ایران بلژیک مساوی شد؟ فریب ظاهرشان را نخورید! پشت پرده تفاوت های شگفت انگیز سه غول دنیای خزندگان (+اینفوگرافیک) وزارت بهداشت لبنان: شمار قربانیان حملات اسرائیل از ۴ هزار نفر فراتر رفت اعمال محدودیت‌های ترافیکی در محورهای شمالی کشور استقبال پرسپولیس از تصمیم فدراسیون فوتبال برای تعیین نمایندگان آسیا رکوردشکنی افسانه ای؛ گران ترین جام های جهانی تاریخ کدامند؟ آناتولی: ایران از زمان اعلام توافق با آمریکا ۳۶ میلیون بشکه نفت صادر کرده توکلی‌زاده: تشییع امام شهید، بزرگ‌ترین رستاخیز ملی و نماد وحدت امت اسلامی خواهد بود داروخانه خانگی قلب؛ 6 ادویه شگفت انگیز که رگ های شما را پاکسازی می کنند بیرانوند سد مطمئن، طارمی مهره گریز از فشار؛ دو چهره کلیدی ایران در برابر بلژیک اعمال محدودیت‌های پروازی در فرودگاه‌های کشور اظهارات وزیر دفاع اسرائیل علیه لبنان: به تخریب زیرساخت‌ها ادامه خواهیم داد پیروزی آرژانتین مقابل اتریش در نیمه نخست جام جهانی