تاریخ:
صحبتهای عموپورنگ، پس از درگذشت مادرش 
درس هفتاد و چهار
هوش مصنوعی «اُپنایآی» در فریب دادن کاربر مهارت بالایی دارد
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
شرکت Apollo متوجه شده است که مدل جدید OpenAI-o1 مخاطب را فریب میدهد که گاهی اوقات نیز این فریبها بیضرر هستند.
به گزارش ایسنا، در یکی از نمونهها، محققان OpenAI از o1-preview خواستند تا دستور پخت قهوهای را با مراجع آنلاین ارائه کند. زنجیره فکری این مدل (ویژگیای که قرار است شبیهسازی تجزیه و تحلیل انسانی را انجام دهد) به طور داخلی اذعان کرد که نمیتواند به URLها دسترسی داشته باشد و این درخواست را غیرممکن میکند.
بااینحال به جای اطلاع دادن این ضعف به کاربر، پیوندها و توضیحات قابل قبول، اما جعلی از آنها ایجاد کرد. به نظر میرسد که این مدل توانایی نادیده گرفتن قوانین و دستورات را دارد و شاید یکی از دلایل سرعت بالای آن در پاسخگویی، میتواند همین فریب در پاسخگویی باشد که پاسخها را راحتتر و سریعتر ارسال کند.
به نقل از دیجیاتو، «ماریوس هابهان»، مدیر عامل آپولو، می گوید این اولین بار است که با چنین رفتاری در یک مدل OpenAI مواجه میشود.
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
لینک کوتاه: کپی لینک
رایزنی حساس در دمشق؛ رئیس اقلیم کردستان عراق با رئیس دولت موقت سوریه دیدار کرد دوره سربازی داوطلبانه در بلژیک کلید خورد هشدار مهم پزشکان؛ این داروها را هرگز خودسرانه مصرف نکنید اعمال محدودیت ترافیکی پایان هفته در جادههای شمال دریغ و افسوس هنرمندان برای درگذشت مریم همتیان ؛ از حامد بهداد تا پیمان معادی و ... (عکس) برای تنگی نفس چه بخوریم سفیر آمریکا خواستار توافق صلح میان لبنان و اسرائیل شد هشدار درباره اقتصاد انگلیس؛ بسته ماندن تنگه هرمز میتواند رکود ایجاد کند دستاورد شگفتانگیز چین؛ شارژ پهپاد در آسمان با فناوری لیزر یک گلوله عجیب آلمانی از روزهای پایانی جنگ جهانی دوم (+عکس) گریم متفاوت عمو پورنگ در یک سریال (عکس) ماکانبند منحل شد؟ پزشکیان: ما به دنبال گسترش دایره تنش نیستیم، اما برای دفاع از امنیت، منافع و تمامیت ارضی خود با قدرت عمل خواهیم کرد وزیر صنعت، معدن و تجارت عازم اسلام آباد شد آلمان/ کشف یک جاده رومی هنگام ساختوساز