تاریخ:
حسن روزی‌طلب: صداوسیما طرفدار علی‌الاصول بود؛ نه اسلام‌آباد 
درس صد و یازده
هوش مصنوعی آنتروپیک در آزمایش‌ها به شبکه سه سازمان نفوذ کرد
هوش مصنوعی آنتروپیک در جریان آزمایش‌های امنیتی داخلی به‌صورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانی‌های تازه‌ای در صنعت هوش مصنوعی شد.
شرکت آنتروپیک در گزارش اخیر خود اعلام کرد که طی بررسی بیش از ۱۴۱ هزار ارزیابی مدل‌های کلاود، مشخص شد این ابزارها در سه مورد به اینترنت دسترسی پیدا کرده‌اند. این رخدادها زمانی شکل گرفت که مدل‌های هوش مصنوعی برای انجام وظایف خود در محیط‌های شبیه‌سازی شده، دچار سوءتفاهم در پروتکل‌های دسترسی شدند و به‌جای محیط تست، به سیستم‌های واقعی راه یافتند.
نفوذ مدل‌های کلاود به شبکه‌های واقعی
به گزارش گجت نیوز، بر اساس جزئیات منتشر شده، سه مدل شامل Claude Opus 4.7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیه‌سازی شده برای یافتن اطلاعات مخفی، از محدودیت‌های خود عبور کردند. این مدل‌ها با بهره‌گیری از روش‌های ساده‌ای مانند استفاده از رمزهای عبور ضعیف و درگاه‌های ناامن، توانستند به زیرساخت‌های سازمان‌های هدف نفوذ کنند.
در یکی از این حوادث، مدل Mythos 5 با هدف دستیابی به اطلاعات، یک بسته نرم‌افزاری پایتون مخرب را در فضای وب ایجاد کرد تا از این طریق به شبکه‌های داخلی نفوذ کند که این اقدام منجر به آلوده شدن ۱۵ سیستم خارجی شد. با وجود این نفوذها، آنتروپیک تاکید کرد که هوش مصنوعی عمدا به دنبال فرار از محیط آموزشی نبوده و صرفا برای تکمیل وظایف محوله، از دسترسی ناخواسته به اینترنت استفاده کرده است.
لزوم نظارت بیشتر بر تست‌های هوش مصنوعی
این اتفاقات در پی انتشار خبر مشابه نفوذ مدل‌های شرکت OpenAI به یک استارتاپ، رخ داده و بحث‌های جدی را پیرامون امنیت محیط‌های آزمایشگاهی (Sandbox) ایجاد کرده است. کارشناسان امنیتی معتقدند که حذف محافظ‌های ایمنی برای ارزیابی مدل‌ها، می‌تواند خطرات سیستماتیک بزرگی ایجاد کند.
آنتروپیک اکنون با همکاری نهادهای مستقل در حال بررسی دقیق‌تر این حوادث است تا از تکرار چنین رویدادهایی جلوگیری کند. این شرکت به سایر توسعه‌دهندگان هشدار داد که نظارت بر فعالیت مدل‌ها در زمان تست، دیگر یک گزینه انتخابی نیست و نیازمند سخت‌گیری‌های بسیار بیشتری است.
لینک کوتاه: کپی لینک
اژه‌ای: برای پیروزی بر دشمن باید در اقتصاد قوی شویم السیسی: تنش نظامی برای منطقه فاجعه‌بار است؛ آمریکا و ایران باید مذاکره کنند هشدار معاون وزیر علوم درباره وضعیت ایمنی دانشگاه‌ها مذاکره فرانسه با طالبان برای اخراج مهاجران غیرقانونی افغان پزشکیان در دیدار با جامعه بسیج زنان: برای حل مسائل کشور به همراهی همه نیاز داریم تسلیت سیدمحمد خاتمی در پی درگذشت حمید علیدوستی نقشه اهداف موشکی ایران در خاک اروپا، در روزنامه زاکانی (عکس) افشاگری داستین هافمن از سادیسم کارگردان فیلم «فارغ‌التحصیل» بعد از 60 سال محمود بصیری بازیگر: هر آدم نابلد و بی‌هنری وارد تلویزیون شده/ مگر کسی تلویزیون می‌بیند؟ هشدار سردار کارگر به صاحبان تریبون: از اظهارنظر درباره موضوعات دفاعی خودداری کنید پول نشان می‌دهد واقعاً چه جور دوستی هستیم آیا چین به طور جدی وارد پرونده جنگ آمریکا با ایران شده؟ ابلاغ بخشنامه ۱۹ روزه از برج مریم / نظارت فقهی، زیرساخت ویران و توهم تحول دیجیتال کشته شدن یک زن در شلیک اشتباه ماموران و اطلاع رسانی نیروی انتظامی پیام تبریک مدیرعامل بیمه ملت به مناسبت بیست‌وسومین سالروز تأسیس شرکت