فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
۷ نفر در حمله دشمن به محله تپه الله‌اکبر بندرعباس مجروح شدند یمن: بمباران فرودگاه صنعا ۹ دقیقه قبل از فرود هواپیمای ایرانی بود یمن حمله آمریکا به اطراف بیمارستانی در اهواز را محکوم کرد حمله آمریکا به نقاطی در اطراف شهر اهواز سخنگوی نیروهای مسلح: اگر به زیرساخت‌های ما آسیبی برسد همه‌ی زیرساخت‌های منطقه هدف ما است به یاد دکتر صدر که عالمانه عاشق فوتبال بود قوه قضاییه: هیچ زندانی آمریکایی آزاد یا تبادل نشده صنعت نفت راهی پلی آف لیگ برتر شد سنتکام دور جدید حملات به ایران را اعلام کرد ادعای سخنگوی کاخ سفید: ایران به مذاکره ادامه می‌دهد و خواهان دستیابی به توافق است قطر ادعای اسرائیل درباره مشارکت در حمله به ایران را قویا رد کرد اردن: هیچ پایگاه نظامی آمریکایی در این کشور وجود ندارد نمایش دراماتیک آرزانتین و مسی ؛ قهرمانانی که در آخرین نفس زنده می‌مانند عین فیلم‌های سینمایی ترسیم نقشه راه آینده با تاکید بر ارتقای خدمات نوآور ترامپ تماشاگر فینال جام جهانی 2026 شد