فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
راز تکامل مغز انسان در انگشتان او نهفته است! بدن انسان دست‌کم ۳۲هزار کالری گوشت دارد؛ اما چرا ما هم‌نوع‌خوار نشده‌ایم؟ سلفی مادرانه فقیهه سلطانی در کنار دخترش گندم (+عکس) خراسان: مدعیان انقلابی گری، پیام رهبری اتمام حجت با شما بود؛ دست از دروغ بستن به مسئولان بردارید بزرگ‌ترین صادرکنندگان تسلیحات نظامی از ۲۰۲۱ تا ۲۰۲۵ (+ اینفوگرافیک) تقویم روز بزرگ‌ترین اشتباهات اینشتین چه بودند؟ چرا در بحران‌ها شایعات را راحت‌تر باور می‌کنیم؟ فرانسه ۴-۶ انگلیس؛ باران گل در میامی، سه‌شیرها با طعم افتخار به خانه برگشتند مشایخ؛ دهستانی بکر که طبیعت در آن نفس می‌کشد(+عکس) چوب هوشمندی که نمی‌سوزد، آب نمی‌خورد و حشره به آن نزدیک نمی‌شود! اولین رونمایی عمومی از هواپیمای ضد زیردریایی Y-9 ارتقا یافته چین اتومبیل‌های قدیمی در کنار چاه نفت در «مسجد سلیمان»؛ سال 1312 (عکس) سریع‌ترین هواپیماهای نظامی تاریخ / معرفی ۵ رکورددار سرعت (+عکس) ۷ کشوری که بزرگ‌ترین ناوگان زیردریایی‌های جهان را در سال ۲۰۲۶ در اختیار دارند
نظرسنجی
کدام تیم قهرمان جام جهانی فوتبال 2026 می شود؟