فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
رایانه کوانتومی به کمک همجوشی هسته‌ای آمد؛ گامی تازه برای تولید سوخت نیروگاه‌های آینده جنگنده راکتی نازی‌ها سریع‌تر از زمان خود بود؛ اما خلبانانش را بیشتر از دشمن کشت (+عکس) بامداد دوشنبه : حملات جدید آمریکا به جنوب ایران / صدای انفجار در بندرعباس، قشم، سیریک، جاسک، بوشهر، کنگان و چابهار ۲۷ کشته بر اثر آتش سوزی در یک رستوران در تایلند محمدجواد لاریجانی: اگر انتقام نگیریم، سایه ترور همیشه وجود دارد بررسی توانمندی‌های تسلیحاتی و اویونیک جنگنده سوخو ۳۵ پیش‌بینی هوش مصنوعی؛ تکرار فینال آرژانتین و فرانسه در جام جهانی ۲۰۲۶ نماینده دموکرات آمریکایی: ارتش اسرائیل دروغ می‌گوید جزئیات طرح ترور ترامپ در ترکیه اقدام خیرخواهانه مهاجم استقلال در هائیتی؛ ساخت ۴۰ خانه برای زلزله‌زدگان سلطنت یانیک سینر بر ویمبلدون؛ قهرمانی مقتدرانه مرد شماره یک جهان نتانیاهو: سناتور گراهام به من توصیه کرده بود به تأسیسات هسته‌ای ایران حمله کنیم تیکدری چگونه از ساختمان باشگاه استقلال به پرسپولیس رسید؟ دستگیری قاتل فراری جوان ۱۷ ساله در عملیات ضربتی پلیس بندرعباس سازمان انرژی اتمی ایران: ادعای حمله به نیروگاه بوشهر صحت ندارد