تاریخ:
اتفاق عجیب هنگام فیلم گرفتن از کاروان پوتین 
درس هشتاد و هفت
هوش مصنوعی آنتروپیک در آزمایشها به شبکه سه سازمان نفوذ کرد
هوش مصنوعی آنتروپیک در جریان آزمایشهای امنیتی داخلی بهصورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانیهای تازهای در صنعت هوش مصنوعی شد.
شرکت آنتروپیک در گزارش اخیر خود اعلام کرد که طی بررسی بیش از ۱۴۱ هزار ارزیابی مدلهای کلاود، مشخص شد این ابزارها در سه مورد به اینترنت دسترسی پیدا کردهاند. این رخدادها زمانی شکل گرفت که مدلهای هوش مصنوعی برای انجام وظایف خود در محیطهای شبیهسازی شده، دچار سوءتفاهم در پروتکلهای دسترسی شدند و بهجای محیط تست، به سیستمهای واقعی راه یافتند.
نفوذ مدلهای کلاود به شبکههای واقعی
به گزارش گجت نیوز، بر اساس جزئیات منتشر شده، سه مدل شامل Claude Opus 4.7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیهسازی شده برای یافتن اطلاعات مخفی، از محدودیتهای خود عبور کردند. این مدلها با بهرهگیری از روشهای سادهای مانند استفاده از رمزهای عبور ضعیف و درگاههای ناامن، توانستند به زیرساختهای سازمانهای هدف نفوذ کنند.
در یکی از این حوادث، مدل Mythos 5 با هدف دستیابی به اطلاعات، یک بسته نرمافزاری پایتون مخرب را در فضای وب ایجاد کرد تا از این طریق به شبکههای داخلی نفوذ کند که این اقدام منجر به آلوده شدن ۱۵ سیستم خارجی شد. با وجود این نفوذها، آنتروپیک تاکید کرد که هوش مصنوعی عمدا به دنبال فرار از محیط آموزشی نبوده و صرفا برای تکمیل وظایف محوله، از دسترسی ناخواسته به اینترنت استفاده کرده است.
لزوم نظارت بیشتر بر تستهای هوش مصنوعی
این اتفاقات در پی انتشار خبر مشابه نفوذ مدلهای شرکت OpenAI به یک استارتاپ، رخ داده و بحثهای جدی را پیرامون امنیت محیطهای آزمایشگاهی (Sandbox) ایجاد کرده است. کارشناسان امنیتی معتقدند که حذف محافظهای ایمنی برای ارزیابی مدلها، میتواند خطرات سیستماتیک بزرگی ایجاد کند.
آنتروپیک اکنون با همکاری نهادهای مستقل در حال بررسی دقیقتر این حوادث است تا از تکرار چنین رویدادهایی جلوگیری کند. این شرکت به سایر توسعهدهندگان هشدار داد که نظارت بر فعالیت مدلها در زمان تست، دیگر یک گزینه انتخابی نیست و نیازمند سختگیریهای بسیار بیشتری است.
تکذیب برخی ادعاها درباره توسعه روابط با چین/ منافع ملی عرصه رقابتها و منازعات جناحی و رسانهای نیست 
لینک کوتاه: کپی لینک
تکذیب برخی ادعاها درباره توسعه روابط با چین/ منافع ملی عرصه رقابتها و منازعات جناحی و رسانهای نیست حمید نعمتالله درباره فیلم جدیدش: «بُت» فیلم امروز ایران است کمردرد دارید؟ این اشتباه را نکنید؛ دراز کشیدن همیشه درمان نیست مهر تأئید تام کروز بر ادغام پارامونت-وارنر برادرز: فوقالعاده است! ماجرای اعدام علی میررضایی خواننده محبوب مازندران قصور واسطهها رافع تکلیف وزارت نفت نبود/ توجیه تراستیها پذیرفته نیست عکس روز ناسا از خورشیدگرفتگی ۱۲ اوت ۸۰۰ هزار زن موتورسوار؛ اما با گواهینامهای که هنوز در دسترس نیست آشیانههای غولپیکر چین برای چه ساخته میشوند؟ آموزش نابرابر؛ وقتی زیرساختها، دانشآموزان دارای معلولیت را حذف میکنند «تیمور میرزا» شاهزاده قاجاری در پیری و در کنار پسران اش (عکس) استایل اسپرت غزاله اکرمی؛ بازیگر سریال کوری در زمین بازی (+عکس) ورزش کافی نیست؛ کمتر بنشینید ترافیک سنگین در جاده چالوس و هراز سه سال بلاتکلیفی دانشآموزان ایرانی در ترکیه؛ مدارکی که بین تهران و آنکارا معطل ماندهاند