فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
بیش از ۷۰ هزار کانادایی با امضای طوماری خواستار اخراج سفیر آمریکا شدند برخی مقامات آمریکایی: ارتش آمریکا در جریان جنگ با ایران تقریباً ۲۵ درصد از ناوگان خود را از دست داده  تشکل‌ها چگونه به توسعۀ کشورها کمک کردند/ نگاهی به تجربۀ کشورهای توسعه‌یافته  هشدار جمعی از اساتید، محققان و فضلای حوزه‌های علمیه نسبت به تفرقه‌افکنی برخی چهره‌ها وزارت خارجه: بیانیه حقوق بشری فرانسه و شرکای غربی، فرافکنی منافقانه است پنجرۀ متفاوتی به حضور و سخنرانی رهبر شهید انقلاب در مراسم عزاداری (فیلم) فیلمی از تعویض ضریح امام رضا(ع) با حضور رهبر انقلاب در سال ۱۳۷۹ یونیوز: تهران، دمشق را به هدف‌گیری ۱۰۰ نقطه استراتژیک در صورت مداخله در لبنان تهدید کرد حمله پهپادی نیروهای مسلح یمن به پالایشگاه آرامکو در جیزان عربستان ترافیک سنگین و ممنوعیت تردد وسیله نقلیه در جاده کرج - چالوس رئیس پلیس غزه ترور شد نامه عروس معصومه ابتکار از بازداشتگاه آمریکا: قربانی اتفاقاتی شده ایم که قبل از تولدمان رخ داده است "دین" ، عهده دار هدایت یا ابزار خشونت؟ آقای انصاری! به مسیر پزشکیان بازگردید واکنش مدودف به سخن نخست‌وزیر ژاپن درباره جزایر کوریل: با عواقب وخیم روبه‌رو خواهید شد