۲۷ آذر ۱۴۰۴
به روز شده در: ۲۷ آذر ۱۴۰۴ - ۰۵:۰۰
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
۱۰ شهر برتر جهان برای سفر «پالیمنتو»، نگاهی چندلایه به رسانه، حافظه و احساسات جمعی پیشرفته‌ترین شهرهای فناوری جهان در سال ۲۰۲۵ هوش مصنوعی پرهای مرغ را به پارچه کشمیر تبدیل می‌کند قصه‌های نان و نمک(73)/ روایت یک جلسه که نیمه‌کاره تمام شد زمان طلایی مصرف چای؛ عوارض خطرناک مصرف چای کهنه برای معده کره ماه دقیقاً از چه موادی ساخته شده است؟ الهام اخوان: نبوغ پیمان قاسم خانی دچار رسوب شده است/ همیشه نیشم باز است پایین‌ترین شهر جهان عجیب‌ترین رکورد تاریخ بشر را دارد شگفتی بزرگ در کوپا دل ری؛ راسینگ با درخشش «آرانا» ویارئال را حذف کرد شب عجیب عثمان دمبله در دوحه؛ از دریافت جایزه فیفا تا شلیک پنالتی به آسمان وداع نمایندگان اسنوکر ایران با مسابقات آزاد اسکاتلند؛ وفایی مغلوب نبوغ مارک سلبی شد دانشگاه‌های بوشهر غیر حضوری شدند آتش‌بازی المپیاکوس در جام حذفی یونان؛ پیروزی شش‌گله در شب حضور طارمی پاری‌سن‌ژرمن قهرمان جام بین‌قاره‌ای ۲۰۲۵ شد؛ پاریسی‌ها در دوحه تاج‌گذاری کردند