۱۳ بهمن ۱۴۰۴
به روز شده در: ۱۳ بهمن ۱۴۰۴ - ۰۹:۵۷
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
استفاده از قطعات تاریخی یادگار دوران هخامنشی به‌عنوان اجاق!/ وزارت میراث چه می‌کند سختی دم، رنج بازدم/ درد بی‌صدای یزدی‌ها ۷ نوع استراحت که بدن و ذهن ما به همه آن‌ها نیاز دارد بررسی آسیب های اجتماعی، در گزارش قوه‌ قضائیه و فراجا در مجمع تشخیص کاهش 3 دلاری نفت پس از کاهش تنش های منطقه ای حل معمای سیارات گمشده ستاره‌های دوتایی اعلام آمادگی شبکه برق برای مقابله با بحران‌های احتمالی «قوام السلطنه» نخست وزیر ایران در دوره قاجار و پهلوی در دوران میانسالی (عکس) گزارش عراقچی به هیات دولت درباره آخرین رفت و آمدهای دیپماتیک موبایل چه بلایی بر سر مغز کودکان می‌آورد؟ رئیس قوه قضاییه: در زمان پهلوی مردم تحقیر شدند و کرامت و عزتشان آسیب دید اسید معده فلز را حل می‌کند؛ پس چگونه به خود معده آسیب نمی‌زند؟ ریزش ۳۰۰ دلاری طلا در بازار جهانی پدر سید حسن نصرالله درگذشت سپاه: حمله پهپادی به مقرهای نیروی دریایی سپاه در استان هرمزگان، کذب است