فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
آیوا ME7؛ شاسی بلند تازه وارد با قدرت 563 اسب بخار (+عکس) بازداشت متهم مخل نظام ارزی کشور در ارومیه آلمان مجوز فعالیت بانک صادرات ایران را لغو کرد ابراز نگرانی حامی مالی ترامپ و جمهوریخواهان از عواقب جنگ با ایران وزیر دفاع: با ابتکارات جدید، شاهد ارتقای چشم‌گیر در زمینه‌های آفندی و پدافندی خواهیم بود محسن رضایی: مذاکرات متوقف شده است/در صورت وقوع جنگ، کابل‌ها، مراکز داده و تأسیسات هوش مصنوعی می‌توانند هدف باشند جنگ جهانی در کالیفرنیا؛ نبرد فرسایشی و بی پایان مورچه ها که ماهانه میلیون ها قربانی می گیرد لغو مجوز شعبه بانک صادرات ایران در آلمان / پایان حضور 64 ساله در آلمان نسخه‌های گران، گزینشی و ناقص توزیع برق تهران: «برق من» هک نشده ؛ اختلال به دلیل ارتقای زیرساخت‌هاست وزیر میراث‌ فرهنگی: گردشگران با خودرو از عراق وارد خوزستان می‌شود درباره صبر ترامپ برای حمله دوباره به ایران تا بعد از انتخابات کنگره بیانیه ستاد حقوق بشر ایران درباره برخورد با معترضان در آلبانی: حقوق بنیادین شهروندان را رعایت کنید گرامی‌مقدم: هر دیدگاه مصالحه‌جویی، غرب‌گرا نیست/تریبون‌داران از توهین پرهیز کنند مرز ریمدان بازگشایی شد / ازسرگیری واردات و صادرات کالا
نظرسنجی
پیش بینی شما: قبل از انتخابات آمریکا، به ایران حمله می شود؟