فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
ضدآفتاب‌های خوراکی چیست؟ نگهبان پیر جنگل‌های هیرکانی،‌درخت بلوط ۶۲ متری(+عکس) اثرات مخرب گرمای تابستان بر خودرو؛ از افت عملکرد باتری تا فرسایش لاستیک‌ها مادر کاروانسراهای ایران؛ بنایی که قرن‌ها میزبان کاروان‌های ایران بود(+عکس) پرچم زیرآب‌زن‌ها بالاست؛ واکاوی دلایل مسموم شدن برخی محیط‌های اداری ۳۰ شرکت سودآور جهان در سال ۲۰۲۶ بر اساس سود ۱۲ ماه اخیر (+ اینفوگرافیک) کوه، تاریخ زنده زمین که هنوز در حال شکل‌گیری است حملات آمریکا به اهدافی در جنوب ایران؛ فعال شدن پدافند در چند استان/ برق چابهار مدتی قطع شد سنتکام از حمله به اهدافی به ایران خبر داد مجید انصاری: نظام با رفتن یک نفر فرو نمی‌ریزد؛ راز ماندگاری انقلاب همین است شوک بزرگ تارتار به پرسپولیس با اخراج هم‌زمان سه ستاره سرشناس و کاپیتان‌ها شنیده شدن صدای چند انفجار در بندرعباس و سیریک جهش سنگین نرخ تورم نقطه به نقطه به مرز ۸۳ درصد در آمار بانک مرکزی قالیباف: دوره قلدری و باج‌گیری تمام شده است روبیو: سوریه را از فهرست کشورهای حامی تروریسم حذف می‌کنیم