تاریخ:
درس شصت و نه
گوگل به دنبال دکمه خاموشی هوش مصنوعی است
محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه رباتها طراحی شد که در آنها، قدرت آنها نامیرا و غیرقابل پیشبینی خوانده شده بود.
بخش هوش مصنوعی گوگل در تلاش برای ساخت یک دکمه بزرگ قرمز است که بتواند عملکرد نرمافزارهای هوش مصنوعی را متوقف کند.
محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه رباتها طراحی شد که در آنها، قدرت آنها نامیرا و غیرقابل پیشبینی خوانده شده بود.
اکنون تیم "ذهن عمیق" گوگل با همکاری موسسه آینده بشریت در آکسفورد قصد دارد کلیدی را برای خاموش کردن هوش مصنوعی در صورت نیاز طراحی کند. این کلید برای در دست گرفتن کنترل رباتهایی که رفتار نادرستی داشته و ممکن است به عواقب غیرقابل برگشتی منجر شود، سودمند است.
اگرچه دانشمندان اذعان کردهاند که برخی سیستمها ممکن است غیرقابل توقف باشند. به گفته آنها، زمانی که هوش مصنوعی به خود آموزش میدهد که چگونه آزاد شود، آن را با سرعت بسیار بالاتری از انسان یاد میگیرد.
متوقف کردن یک ماشین لزوما به معنی کشیدن آن از برق نیست، بلکه باید آن را فریب داد. به این منظور، دانشمندان در تلاش برای ساخت الگوریتمهایی برای ایجاد یک سیاست متوقفسازی یا محرکی هستند که به انسان اجازه میدهد بطور موقت، رفتار ربات را تغییر دهد.
به عبارت دیگر، این کلید در حقیقت یک سیگنال است که باعث میشود دستگاه فکر کند باید متوقف شود. بجای پیروی از فرمان بیرونی، تصمیمگیری برای توقف توسط خود دستگاه انجام میشود.
منبع: ایسنا
لینک کوتاه: کپی لینک
بالگرد بیسرنشین و تهاجمی تاندر معرفی شد(+عکس) ۱۰ اثر زیبا و ماندگار از «مازیار» (همین الان بشنوید) تنها شلیک سلاح در فضا ۵۰ سال پیش انجام شد: ماجرای عجیب آزمایش تسلیحاتی شوروی معمار سردر دانشگاه تهران که بود؟ اینجا 40 سال قبل «دریا» بود و حالا یک «بمب کربنی» است رویکرد متفاوت واشنگتن و ریاض به F-15؛ یکی بازنشسته میکند، دیگری میلیاردها دلار خرج ارتقا کبد ما هزاران سال عمر میکند، اما مغز و قلبمان اجازه زندگی طولانی نمیدهند وقتی هیچ کاری انجام نمیدهید، مغزتان مشغول چه کاری است؟ ۱۰ اختراع تاریخی که جنگها را برای همیشه تغییر دادند(+عکس) واریز ۶۰ لیتر سهمیه بنزین مرداد ۱۴۰۵ به کارتهای هوشمند سوخت ترامپ: ما به تنگه هرمز نیازی نداریم مخبر: جنون آمریکا را با غافلگیری در فناوریهای تهاجمی پاسخ میدهیم قهرمانی آرین سلیمی در تورنمنت آزاد تکواندو کره جنوبی با شکست میزبان ادعای مقام کاخ سفید: امکان توافق با ایران وجود دارد محکومیت ۵۰ میلیونی شکارچی غیرمجاز کبک در ثلاث باباجانی