فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
محاصره مرزی ایران برای قطع صادرات و واردات کالا /همسایگان زورشان به تهدید آمریکا نرسید هوش مصنوعی درد را می‌فهمد؟ چرا نباید سر چت‌جی‌پی‌تی داد بزنیم؟ گوگل شماره سیم‌کارت را خودکار به حساب‌ها متصل می‌کند؛ کاربران ایرانی باید نگران باشند؟ باسوادترین کشورهای جهان کدامند؟ کاهش خطر سکته مغزی مجدد با «کنترل زودهنگام ریتم قلب» یک گروه خونی خاص با افزایش ۲۸ درصدی خطر ابتلا به دیابت نوع ۲ ارتباط دارد سفارت آمریکا در ریاض هشدار امنیتی صادر کرد جزئیاتی جدید از عملیات فریب اسرائیل برای آغاز جنگ با ایران بهترین روش خوردن سیب‌زمینی و کنترل قند خون باکو به محاصره هوایی آمریکا علیه ایران پیوست قدرتمندترین موشک‌های تاریخ که بشر تاکنون به فضا فرستاده است فردین و تختی پیش از اعزام به مسابقات جهانی توکیو؛ سال ۱۳۳۳ (عکس) لیتیوم موجود در آب آشامیدنی با نقص مادرزادی قلب مرتبط است باکتری شایع عامل زخم معده ممکن است خطر سرطان روده را افزایش دهد دانشمندان در پی یافتن منشأ علمی احساس «حضور اشباح»
نظرسنجی
پیش بینی شما: قبل از انتخابات آمریکا، به ایران حمله می شود؟