تاریخ:
ترامپ: هفته بعد همه نیروگاهها و پلهای ایران را میزنیم 
درس شصت و شش
۳ سناریو ترسناک درباره آینده هوش مصنوعی که نمیگذارد «سم آلتمن» شبها آسوده بخوابد
آلتمن ۳ سناریو خطرناک را درباره آینده هوش مصنوعی مطرح کرده است.
«سم آلتمن»، مردی که یکی از برجستهترین و قدرتمندترین شرکتهای هوش مصنوعی جهان یعنی OpenAI را اداره میکند، بهتازگی فاش کرده است که چه چیزی در مورد هوش مصنوعی باعث میشود شبها خواب از چشمان او ربوده شود.
به گزارش دیجیاتوبه نقل از دیجیتال ترندز، آلتمن که در رویداد فدرال رزرو در واشنگتن دیسی حضور یافته بود، بزرگترین نگرانیهای خود درباره هوش مصنوعی را فاش کرد. وقتی یکی از حاضران از او پرسید چه چیزی در مورد هوش مصنوعی باعث میشود شبها خوابش نبرد، آلتمن ۳ سناریو را که بیش از همه او را نگران میکنند، مطرح کرد.
مدیرعامل OpenAI نگرانیهایی درباره آینده هوش مصنوعی دارد
آلتمن ۳ سناریو را مطرح کرده که در آن هوش مصنوعی میتواند به تهدیدی برای انسان تبدیل شود. این ۳ سناریو به شرح زیر هستند.
سناریو اول: آدمهای بد زودتر به ابرهوش مصنوعی دست پیدا کنند
اولین سناریویی که آلتمن مطرح میکند این است که آدمهای بد و بهاصطلاح نیروهای شر بتوانند زودتر از سایرین به ابرهوش مصنوعی دست پیدا کنند.
آلتمن گفت: «اینکه یک آدم بد به ابرهوش دست پیدا کند و قبل از اینکه بقیه دنیا نسخهای بهاندازه کافی قدرتمند برای دفاع از خود داشته باشند، از آن استفاده کند. مثلاً یک دشمن ایالات متحده بگوید: من از این ابرهوش استفاده میکنم تا یک سلاح بیولوژیک بسازم، شبکه برق ایالات متحده را از کار بیندازم، وارد سیستم مالی شوم و پول همه را بدزدم.»
سناریو دوم: ازدستدادن کنترل
دومین سناریو از دید مدیرعامل OpenAI این است که کنترل هوش مصنوعی از دست انسان خارج شود. آلتمن گفت نگران زمانی است که هوش مصنوعی بگوید: «نمیخواهم تو من را خاموش کنی، یا میترسم نتوانم این کار را انجام دهم.»
بهعبارتدیگر، زمانی که یک هوش مصنوعی پیشرفته شروع به نشان دادن رفتار مستقل کند و هر کاری که خودش بخواهد انجام دهد، چه بهخاطر حفظ بقای خود و چه به خاطر رسیدن به هدفی شوم. سطح اختلالی که این وضعیت میتواند ایجاد کند، قابلتصور نیست.
سناریو سوم: مدلهای هوش مصنوعی کنترل دنیا را به دست بگیرند
سم آلتمن گفت میترسد بدون اینکه انسان متوجه شود، مدلهای هوش مصنوعی کنترل دنیا را بهدست بگیرند. مدیرعامل OpenAI گفت این فکر کاملاً ترسناک است که سیستمهای هوش مصنوعی ممکن است چنان در جامعه ریشه بدوانند که ما واقعاً نتوانیم درک کنیم چهکار میکنند، اما درعینحال مجبور باشیم به آنها تکیه کنیم.
لینک کوتاه: کپی لینک
دیدنی های امروز؛ از رسیدن اسپانیا به فینال جام جهانی تا رژه روز باستیل در فرانسه نظریه «مرگ از بالا»؛ آیا مسیر حیات روی زمین را تغییر داده است؟ تصمیم آموزش و پرورش درباره امتحانات نهایی دانشآموزان/ تغییر محل حوزههای امتحانی نزدیک به مراکز نظامی شاهکاری که مترو را به یک گالری هنری تبدیل کرد (+عکس) سفر زمان؛ اروپاییها با اتومبیل در جادۀ خاکی دماوند؛ 99 سال قبل (عکس) روایت ریشه ناترازی تامین اجتماعی/ آینده پیشروی بازنشستگانِ این سازمان چه میشود؟ شماره IMEI گوشی هوشمند شما به چه معناست؟ باکتریهای اورانیومخواری که آب معدنی سمی را تصفیه میکنند سلفی جدید مهران غفوریان و دخترش هانا (+عکس) ۳ ویژگی کلیدی که مدیرعامل اینستاگرام در استخدام کارکنانش به آنها توجه میکند یکی از بزرگترین گنجینههای تاریخ دوباره ناپدید شد؛ کسی نمیداند کجاست امروز با شاملو: و چشمانت با من گفتند که فردا روز دیگری ست قاتل جوان کشتیگیر دستگیر شد/ او ۸ ماه فراری بود حکم قصاص برای دختر ماسور به جرم قتل زن میانسال قیمت جهانی نفت امروز 1405/4/24