هوش مصنوعی استدلالی OpenAI گاهی‌اوقات «چینی و فارسی فکر می‌کند» و هیچ‌کس نمی‌داند چرا

پس‌از انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیده‌ی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهی‌اوقات به زبان‌های دیگری مانند چینی، فارسی یا زبان‌های دیگر فکر می‌کند. مدل مذکور در فرآیند پاسخ‌دهی، مراحل استدلالی خود را به زبان دیگری انجام می‌دهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه می‌دهد.

به گزارش زومیت، ازنظر برخی متخصصان، چینی فکر کردن ChatGPT به‌دلیل استفاده از داده‌های چینی در فرآیند آموزش مدل است. شرکت‌هایی مانند OpenAI برای برچسب‌گذاری داده‌های پیشرفته‌ی علمی و ریاضی از خدمات شرکت‌های چینی استفاده می‌کنند. این برچسب‌ها نقش کلیدی در یادگیری مدل‌ها دارند و می‌توانند به جانب‌داری یا تأثیر زبانی منجر شوند.

در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به داده‌های چینی ندارد. آن‌ها می‌گویند مدل‌ها احتمالاً زبان‌هایی را انتخاب می‌کنند که برای انجام وظیفه‌ای خاص، کارآمدتر باشند یا حتی به‌طور تصادفی به این زبان‌ها جابه‌جا می‌شوند. از آنجاکه مدل‌ها کلمات را به‌صورت توکن پردازش می‌کنند، تفاوتی میان زبان‌ها برای آن‌ها وجود ندارد.

نظریه‌های دیگر نشان می‌دهند که پاسخ‌های چینی ChatGPT می‌تواند نتیجه‌ی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. به‌عنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی به‌دلیل کوتاهی و کارآمدی آن در برخی موارد می‌تواند کارآمدتر باشد.

درنهایت، به‌دلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدل‌ها، دلیل قطعی این رفتار مشخص نیست. به‌همین‌دلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوه‌ی ساخت و آموزش سیستم‌های هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیده‌هایی را بهتر درک کرد.

رئیس جمهور کلمبیا به ترامپ: تگزاس و کالیفرنیا را پس بده تا درباره نفت مذاکره کنیم!

بیشتر بخوانید:

بیش از یک‌میلیون گفت‌وگوی هفتگی درباره خودکشی در ChatGPT

تغییرات مدیریتی در OpenAI؛ سم آلتمن روی مسائل فنی بیشتر تمرکز می‌کند

سم آلتمن نقشه راه OpenAI را مشخص کرد

هوش مصنوعی؛ دوستی مفید یا دشمنی ویرانگر؟

تماشاخانه

یلدا و قصه‌ی یکی شدن ما..! (فیلم)

آن روزها کنار هم بودن، خودش یک آیین بود / در ارتباط رودررو، چشم‌ها راست و دروغ را لو می‌دهند؛ چیزی که ابزارها از ما پنهان می‌کنند / ما قرار بود از ابزارها استفاده کنیم، اما حالا خودمان را در اختیارشان قراردادیم (فیلم)

فیلم های دیگر