۰۲ آذر ۱۴۰۳
به روز شده در: ۰۲ آذر ۱۴۰۳ - ۱۳:۴۷
فیلم بیشتر »»
کد خبر ۴۷۲۸۰۹
تاریخ انتشار: ۰۸:۳۶ - ۱۸-۰۳-۱۳۹۵
کد ۴۷۲۸۰۹
انتشار: ۰۸:۳۶ - ۱۸-۰۳-۱۳۹۵

گوگل به دنبال دکمه خاموشی هوش مصنوعی است

محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه ربات‌ها طراحی شد که در آن‌ها، قدرت آن‌ها نامیرا و غیرقابل پیش‌بینی خوانده شده بود.

بخش هوش مصنوعی گوگل در تلاش برای ساخت یک دکمه بزرگ قرمز است که بتواند عملکرد نرم‌افزارهای هوش مصنوعی را متوقف کند.

گوگل به دنبال دکمه خاموشی هوش مصنوعی است

محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه ربات‌ها طراحی شد که در آن‌ها، قدرت آن‌ها نامیرا و غیرقابل پیش‌بینی خوانده شده بود.

اکنون تیم "ذهن عمیق" گوگل با همکاری موسسه آینده بشریت در آکسفورد قصد دارد کلیدی را برای خاموش کردن هوش مصنوعی در صورت نیاز طراحی کند. این کلید برای در دست گرفتن کنترل ربات‌هایی که رفتار نادرستی داشته و ممکن است به عواقب غیرقابل برگشتی منجر شود، سودمند است.

اگرچه دانشمندان اذعان کرده‌اند که برخی سیستم‌ها ممکن است غیرقابل توقف باشند. به گفته آن‌ها، زمانی که هوش مصنوعی به خود آموزش می‌دهد که چگونه آزاد شود، آن را با سرعت بسیار بالاتری از انسان یاد می‌گیرد.

متوقف کردن یک ماشین لزوما به معنی کشیدن آن از برق نیست، بلکه باید آن را فریب داد. به این منظور، دانشمندان در تلاش برای ساخت الگوریتم‌هایی برای ایجاد یک سیاست متوقف‌سازی یا محرکی هستند که به انسان اجازه می‌دهد بطور موقت، رفتار ربات را تغییر دهد.

به عبارت دیگر، این کلید در حقیقت یک سیگنال است که باعث می‌شود دستگاه فکر کند باید متوقف شود. بجای پیروی از فرمان بیرونی، تصمیم‌گیری برای توقف توسط خود دستگاه انجام می‌شود.

منبع: ایسنا

برچسب ها: هوش مصنوعی ، گوگل
ارسال به دوستان
درمان بیماری ایدز در کشور رایگان است بازداشت نگهبان سفارت آمریکا در نروژ به اتهام جاسوسی برای ایران و روسیه سردار سلامی: شریان‌ اقتصادی اسرائیل باید از زمین و دریا قطع شود واکنش عضو کمیسیون امنیت ملی به قطعنامه شورای حکام: ملاحظات هسته‌ای را کنار بگذاریم / هرچه تهدیدات بیشتر باشد، بهره مندیمان بیشتر می شود  علی لاریجانی مطرح کرد / اعلام آمادگی ایران برای توافق جدید هسته ای با ترامپ ماشین انسان‌شویی ساخته شد! واژگونی اتوبوس در جاده زاهدان به زابل با ۲۸ حادثه‌دیده و ۴ مصدوم موز چسب‌ خورده روی دیوار ۶.۲ میلیون دلار در حراجی فروخته شد موشک‌های ویژه حزب‌الله فراتر از تل‌آویو را هدف قرار دادند/ انهدام تانک مرکاوای ارتش اشغالگر کدام سامانه مرجع اصلی اطلاعات مکانی و سکونتی افراد است؟ وزیر علوم: در چند سال اخیر، ۲۵ درصد از استادان دانشگاه مهاجرت کرده‌اند /بسیاری به خاطر معیشت می روند پیش بینی آب و هوا در هفته آینده/ آغاز بارش‌ ها از دوشنبه با ورود سامانه جدید تصویب ۱۲۴ هزار میلیارد تومان طرح برای محرومیت‌زدایی از سیستان و بلوچستان روزهای آفتابی تیم‌های ایتالیایی در زمستان اروپا دستگاه های کارت خوان اولیه چه شکلی بودند؟ (فیلم)