فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
هشدار نارنجی دریایی برای خزر و خلیج فارس اعدام ناکام یک زن در آمریکا / زنده ماندن اعدامی بعد از دو مرحله تزریق داروی مرگ سرعت بالای افزایش سالمندی/ رییس سازمان بهزیستی: ۱۱ میلیون سالمند در کشور نخست‌وزیر عراق: حشد الشعبی بخشی از ساختار امنیتی کشور خواهد شد سپاه: اخراج آمریکایی‌ها از عراق، طلیعه آزادی غرب آسیا از یوغ سلطه شیطان بزرگ است دستگیری اعضای شبکه قاچاق داروهای کمیاب به کشور همسایه برگزاری مرحله نهایی پنجمین موت‌کورت ملی حقوق خانواده در دانشکده رفاه پاکستان حمله هوایی به افغانستان را تایید کرد؛ پایگاه تروریست‌ها را هدف گرفتیم استان آذربایجان‌غربی قهرمان والیبال زیر ۱۹ سال ایران شد هشدار هوانوردی اروپا؛ پرواز بر فراز ۹ کشور منطقه خاورمیانه تا ۱۶ نوامبر توصیه نمی‌شود هشدار بانک مرکزی درباره کلاهبرداری با عنوان خرید و فروش وام بازگشت بیژن مرتضوی؛ وقتی تکذیب از حقیقت جا می‌ماند شورای امنیت ملی ترکیه: ایران و آمریکا به «چرخه تباه» درگیری ها پایان دهند واکنش اولیانوف به ادعا‌های دبیرکل ناتو: او هیچ اطلاعی درباره برنامه هسته‌ای ایران ندارد واکنش همتی به ادعای فروپاشی اقتصاد ایران: جوجه را آخر پاییز می‌شمارند!