.png "عصر ایران")
۲۷ آذر ۱۴۰۴
به روز شده در: ۲۷ آذر ۱۴۰۴ - ۰۳:۰۰
پزشکیان: امام اگر امروز بود، دیدن وضع ما و جامعه مسلمانان خیلی برایشان سخت بود (فیلم) گوگل به دنبال دکمه خاموشی هوش مصنوعی است
محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه رباتها طراحی شد که در آنها، قدرت آنها نامیرا و غیرقابل پیشبینی خوانده شده بود.
بخش هوش مصنوعی گوگل در تلاش برای ساخت یک دکمه بزرگ قرمز است که بتواند عملکرد نرمافزارهای هوش مصنوعی را متوقف کند.
محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه رباتها طراحی شد که در آنها، قدرت آنها نامیرا و غیرقابل پیشبینی خوانده شده بود.
اکنون تیم "ذهن عمیق" گوگل با همکاری موسسه آینده بشریت در آکسفورد قصد دارد کلیدی را برای خاموش کردن هوش مصنوعی در صورت نیاز طراحی کند. این کلید برای در دست گرفتن کنترل رباتهایی که رفتار نادرستی داشته و ممکن است به عواقب غیرقابل برگشتی منجر شود، سودمند است.
اگرچه دانشمندان اذعان کردهاند که برخی سیستمها ممکن است غیرقابل توقف باشند. به گفته آنها، زمانی که هوش مصنوعی به خود آموزش میدهد که چگونه آزاد شود، آن را با سرعت بسیار بالاتری از انسان یاد میگیرد.
متوقف کردن یک ماشین لزوما به معنی کشیدن آن از برق نیست، بلکه باید آن را فریب داد. به این منظور، دانشمندان در تلاش برای ساخت الگوریتمهایی برای ایجاد یک سیاست متوقفسازی یا محرکی هستند که به انسان اجازه میدهد بطور موقت، رفتار ربات را تغییر دهد.
به عبارت دیگر، این کلید در حقیقت یک سیگنال است که باعث میشود دستگاه فکر کند باید متوقف شود. بجای پیروی از فرمان بیرونی، تصمیمگیری برای توقف توسط خود دستگاه انجام میشود.
منبع: ایسنا
لینک کوتاه: کپی لینک
پیشرفتهترین شهرهای فناوری جهان در سال ۲۰۲۵ هوش مصنوعی پرهای مرغ را به پارچه کشمیر تبدیل میکند قصههای نان و نمک(73)/ روایت یک جلسه که نیمهکاره تمام شد زمان طلایی مصرف چای؛ عوارض خطرناک مصرف چای کهنه برای معده کره ماه دقیقاً از چه موادی ساخته شده است؟ الهام اخوان: نبوغ پیمان قاسم خانی دچار رسوب شده است/ همیشه نیشم باز است پایینترین شهر جهان عجیبترین رکورد تاریخ بشر را دارد شگفتی بزرگ در کوپا دل ری؛ راسینگ با درخشش «آرانا» ویارئال را حذف کرد شب عجیب عثمان دمبله در دوحه؛ از دریافت جایزه فیفا تا شلیک پنالتی به آسمان وداع نمایندگان اسنوکر ایران با مسابقات آزاد اسکاتلند؛ وفایی مغلوب نبوغ مارک سلبی شد دانشگاههای بوشهر غیر حضوری شدند آتشبازی المپیاکوس در جام حذفی یونان؛ پیروزی ششگله در شب حضور طارمی پاریسنژرمن قهرمان جام بینقارهای ۲۰۲۵ شد؛ پاریسیها در دوحه تاجگذاری کردند برتری متزلزل اتلتیکومادرید مقابل تیم دسته چهارمی/ صعود سخت شاگردان سیمئونه به مرحله بعد کشف اسرار مثلث برمودا پس از قرن ها ابهام (+عکس)