کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
نظرسنجی: 78 درصد انگلیسی ها اسرائیل را تهدید جدی برای صلح جهانی می بینند با دستور رئیس‌جمهور؛ ۲۱ طرح عمرانی و اقتصادی در کیش وارد مرحله اجرا و بهره‌برداری شد بلومبرگ: ایران ماهانه ۵۰ موشک بالستیک می‌سازد سایه سنگین دیابت بر زندگی کودکان/ دسترسی به دارو بخشی از مسیر مراقبت از کودکان مبتلا به دیابت است هشدار هواشناسی درباره تشدید آلودگی هوا در تهران، کرج و اصفهان واگذاری پتروشیمی آبادان؛ ضرورتی برای بازگشت به مسیر سودآوری استقبال مقامات ترکیه از پزشکیان در فرودگاه (عکس) از «اداره احصائیه و امور قضایی» تا «کانون وکلای دادگستری»؛ آیا تاریخ به عقب باز خواهد گشت؟ آخرین وضعیت امدادرسانی به کارگران حادثهٔ‌ پارس‌جنوبی ترامپ و انتخاب راه سوم در قبال ایران ایران در رسانه های جهان: پای ایران به ماجرای حمله به پایگاه «فیر‌فورد» باز شد / گشایش نخستین مرکز آموزش نظامی زنان در تهران استایل بوهو آرزو تاج‌نیا، بازیگر «هفت سر اژدها» در قاب طبیعت (+عکس) پزشکیان پیش از عزیمت به ترکیه: اجلاس تغییرات اقلیمی فرصتی برای بیان آثار تخریبی جنگ بر محیط زیست است شرایط جدید پذیرش بدون آزمون ارشد دانشگاه آزاد اسلامی دفترچه یادداشت بدگویی؛ تکنیک ژاپنی ِخانه‌تکانی ذهن و روح با نوشتن فحش و توهین