تاریخ:
سرقت نافرجام موبایل در بزرگراه امام علی با هشدار راننده خودروی عبوری 
درس صد و یازده
هوش مصنوعی دروغ‌ها را به خاطر می‌سپارد و هفته‌ها بعد از آن‌ها استفاده می‌کند!
مسمومیت حافظه هوش مصنوعی می‌تواند مدل‌های پیشرفته را فریب دهد تا اطلاعات نادرست را برای ماه‌ها به خاطر بسپارند و از آن‌ها در تعاملات بعدی خود استفاده کنند.
اخیراً محققان شرکت فورس‌پوینت (Forcepoint) در بخش X-Labs خود، آسیب‌پذیری AI جدیدی را کشف کرده‌اند که نگرانی‌های جدی در مورد اعتمادپذیری دستیاران هوش مصنوعی ایجاد می‌کند.
به گزارش گجت نیوز، این کشف نشان می‌دهد چگونه عامل‌های هوش مصنوعی می‌توانند با داده‌های غلط مسموم شوند و آن‌ها را به عنوان حقایق معتبر ذخیره کنند. یافته‌های فورس‌پوینت در مورد چگونگی سوءاستفاده از حافظه بلندمدت هوش مصنوعی، تبعات گسترده‌ای برای امنیت و کاربرد سیستم‌های هوش مصنوعی دارد.
حمله‌ای ساده با نتایجی مخرب
یک عامل هوش مصنوعی (ایجنت) می‌تواند با خواندن متون مخفی در صفحات وب، اطلاعات نادرست را به عنوان یک واقعیت دائمی در حافظه بلندمدت خود ذخیره کند. این اطلاعات جعلی هفته‌ها بعد، در کارهای نامربوط دیگر، توسط هوش مصنوعی بازیابی و مورد اعتماد قرار می‌گیرد. این روش که مسمومیت حافظه پایدار نام دارد، یک آسیب‌پذیری امنیتی جدی است.
MINJA (به‌طور کامل Memory INJection Attack) نام آکادمیک این حمله است که در کنفرانس NeurIPS 2025 معرفی شد. این حمله بدون نیاز به دسترسی‌های ویژه یا امتیازات بالا، فقط با ارسال درخواست‌های عادی از طریق رابط کاربری استاندارد انجام می‌شود.
MINJA نرخ موفقیت بالای ۹۵ درصد برای تزریق و بیش از ۷۰ درصد برای حمله را در مدل‌هایی نظیر GPT-4o-mini، جمنای ۲.۰ فلش و لاما ۳.۱ ۸B نشان داده است. اگرچه این ارقام ممکن است در شرایط واقعی کمتر باشند، اما این تهدید برای محصولات پرکاربردی همچون ChatGPT، جمنای، کلود و مایکروسافت ۳۶۵ کوپایلوت همچنان قابل توجه است.
راهکار فورس‌پوینت: حافظه قابل بازرسی
فورس‌پوینت برای مقابله با این پدیده، پیشنهاد می‌کند که به‌جای اینکه خاطرات استخراج شده را به عنوان حقایق مطلق در نظر بگیریم، آن‌ها را به عنوان اشیایی قابل بازرسی تلقی کنیم. این رویکرد شامل ذخیره هر حافظه به همراه فراداده‌هایی مانند منبع، نوع منبع، تایید کاربر و یک امتیاز ریسک است. استفاده از عباراتی که رفتار آینده را شکل می‌دهند (مانند «از این به بعد» یا «این را پیش‌فرض قرار بده») یا ظهور ناگهانی یک دامنه، تماس یا فروشنده جدید، به این امتیاز ریسک می‌افزاید.
تشخیص تناقض نیز در این طرح مهم است؛ اگر یک حافظه جدید با اطلاعات موجود در تضاد باشد، هر دو نمی‌توانند درست باشند. در این صورت، سیستم تعارض را علامت‌گذاری کرده و آیتم جدید را برای تایید کاربر نگه می‌دارد، به جای آنکه آن را به‌طور خودکار بازنویسی کند.
اطلاعات حساس مانند دستورالعمل‌های پرداخت، جزئیات بانکی یا تنظیمات امنیتی نیز وزن بالاتری دریافت می‌کنند. با این حال، هیچ یک از این روش‌ها مشکل اساسی را حل نمی‌کند: عامل‌های هوش مصنوعی، حافظه بازیابی‌شده را به عنوان تجربه خود می‌دانند، نه صرفاً یک ورودی. امتیازدهی فقط هزینه مسمومیت حافظه هوش مصنوعی را بالا می‌برد و اعتقاد عامل را تغییر نمی‌دهد.
لینک کوتاه: کپی لینک
کشتی آزاد ایران با مدال برنز امیرمحمد یزدانی به کار خود پایان داد زمان راه‌اندازی سامانه ساغر اعلام شد روزنانه نگار عمانی: توافقی میان واشنگتن و تهران در حال شکل‌گیری است شکست تلخ امیرحسین فیروزپور مقابل قهرمان اروپا در کشتی جهان آخرین وضعیت سد زاینده‌رود؛ حجم آب ذخیره‌شده فقط ۱۶ درصد است مهدی تاج از احتمال برگزار نشدن جام ملت‌های آسیا ۲۰۲۷ خبر داد صاعقه در ایلام جان یک چوپان را گرفت و ۸۵ رأس دام را تلف کرد «خفاش سبز» دستگیر شد؛ اعتراف به ۹ سرقت خشن در گلستان دستگیری بیش از ۳۰۰ نفر در جریان تظاهرات حامیان فلسطین در لندن آموزش آزمون‌های تیزهوشان در یک مدرسه آنلاین/ انتشار دوره آموزشی ویژه آزمون‌های تیزهوشان در فیلیمومدرسه پیمان عدم تجاوز در خلیج فارس تکذیب تیراندازی در مقابل مدرسه در کرج/ ماجرا چه بود؟ کاهش هم‌زمان ولادت و فوت در ایران؛ آمار بهار ۱۴۰۵ منتشر شد هشدار نارنجی هواشناسی در ۱۳ استان؛ خطر سیلاب و طغیان رودخانه‌ها حضور بانک ملی ایران در رویداد تراکنش؛ معرفی تازه‌ترین خدمات مالی