تاریخ:
"دزد به دزد میزنه میشه شاه دزد" یعنی این! 
درس هفتاد و چهار
هوش مصنوعی «اُپنایآی» در فریب دادن کاربر مهارت بالایی دارد
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
شرکت Apollo متوجه شده است که مدل جدید OpenAI-o1 مخاطب را فریب میدهد که گاهی اوقات نیز این فریبها بیضرر هستند.
به گزارش ایسنا، در یکی از نمونهها، محققان OpenAI از o1-preview خواستند تا دستور پخت قهوهای را با مراجع آنلاین ارائه کند. زنجیره فکری این مدل (ویژگیای که قرار است شبیهسازی تجزیه و تحلیل انسانی را انجام دهد) به طور داخلی اذعان کرد که نمیتواند به URLها دسترسی داشته باشد و این درخواست را غیرممکن میکند.
بااینحال به جای اطلاع دادن این ضعف به کاربر، پیوندها و توضیحات قابل قبول، اما جعلی از آنها ایجاد کرد. به نظر میرسد که این مدل توانایی نادیده گرفتن قوانین و دستورات را دارد و شاید یکی از دلایل سرعت بالای آن در پاسخگویی، میتواند همین فریب در پاسخگویی باشد که پاسخها را راحتتر و سریعتر ارسال کند.
به نقل از دیجیاتو، «ماریوس هابهان»، مدیر عامل آپولو، می گوید این اولین بار است که با چنین رفتاری در یک مدل OpenAI مواجه میشود.
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
لینک کوتاه: کپی لینک
احتمال میزبانی مجدد سوییس از مذاکرات ایران و آمریکا ادعای سفیر آمریکا در ناتو: در حال حاضر ما دیپلماسی و مذاکره را انتخاب میکنیم استاد محمد نوابزاده پیشکسوت سینما و تئاتر استان کرمان درگذشت تحلیلگر صهیونیست: تهدیدهای ترامپ علیه ایران اعتبار خود را از دست داده است بمب نقلوانتقالات بسکتبال منفجر شد؛ پیتر گریگوریان به استقلال پیوست دندانپزشکی اقساطی در تبریز؛ معرفی مراکز ارائه دهنده خدمات با شرایط مذاکرات جدی صنعت نفت آبادان برای جذب امید عالیشاه آغاز شد ادعای سنتکام: آماده پشتیبانی از کشتیهای تجاری برای عبور از هرمز هستیم رونمایی از سامانه حسام؛ بستن آنلاین حسابهای بانکی مازاد از شهریور رویترز: کشتیهای عربستانی از عبور از خلیج عدن خودداری کردند جهش ۱۲۳ هزار واحدی شاخص بورس در سومین روز متوالی رشد بازار رئیس مرکز پژوهشهای مجلس: زیر سؤال بردن دستاوردهای رزمندگان، خیانت به تاریخ کشور است/ دشمن میخواهد نظام حکمرانی کشور دچار فرسودگی شود اعلام نتایج اولیه دکتری بدون آزمون دانشگاه تهران آمادهسازی زیرساختهای مهران برای موج بازگشت زائران اربعین اعلام زمان دقیق انتشار نتایج آزمون مدارس سمپاد و نمونه دولتی