جهان وقت کافی مقابل خطرات هوش مصنوعی ندارد

متخصص ایمنی هوش مصنوعی در آژانس تحقیقاتی بریتانیا، با ابراز نگرانی از پیشرفت سریع فناوری، گفت که پیشرفت‌های آتی ممکن است سریع‌تر از توانایی کنترل ما از نظر ایمنی باشد.

«دیوید دالریمپل»، مدیر برنامه و کارشناس ایمنی هوش مصنوعی در آژانس تحقیقاتی بریتانیا (Aria)، به گاردین گفت جهان ممکن است زمان کافی برای آماده‌سازی در برابر خطرات ناشی از سیستم‌های پیشرفته هوش مصنوعی نداشته باشد.

به گزارش اطلاعات آنلاین به نقل از گاردین، او تأکید کرد که مردم باید نسبت به افزایش توانایی‌های این فناوری نگران باشند: «ما باید نسبت به سیستم‌هایی که می‌توانند تمام وظایفی را که انسان‌ها برای انجام کارها انجام می‌دهند، اما بهتر انجام دهند، نگران باشیم، زیرا در تمام حوزه‌هایی که برای حفظ کنترل بر تمدن، جامعه و سیاره خود نیاز داریم، از انسان پیشی خواهند گرفت.»

دالریمپل افزود که شکافی بین درک بخش عمومی و شرکت‌های هوش مصنوعی درباره قدرت پیشرفت‌های قریب‌الوقوع فناوری وجود دارد و هشدار داد: «تحولات بسیار سریع در حال رخ دادن است و ممکن است زمان کافی برای پیشگیری از خطرات ایمنی نداشته باشیم. پیش‌بینی اینکه در پنج سال آینده بیشتر وظایف با ارزش اقتصادی توسط ماشین‌ها بهتر و ارزان‌تر از انسان انجام شود، علمی‌تخیلی نیست.»

او همچنین تاکید کرد که دولت‌ها نباید سیستم‌های پیشرفته را قابل اعتماد فرض کنند. دالریمپل در حال توسعه سیستم‌هایی برای حفاظت از استفاده از هوش مصنوعی در زیرساخت‌های حیاتی مانند شبکه‌های انرژی است.

این کارشناس افزود: «ما نمی‌توانیم فرض کنیم این سیستم‌ها قابل اعتماد هستند. علم لازم برای اطمینان از این موضوع احتمالاً به دلیل فشار اقتصادی در زمان مناسب فراهم نخواهد شد. بهترین کار بعدی، که ممکن است بتوانیم به موقع انجام دهیم، کنترل و کاهش پیامدهای منفی است.»

به گفته دالریمپل، پیشرفت فناوری بدون توجه به ایمنی می‌تواند «امنیت و اقتصاد را بی‌ثبات کند». او گفت: «پیشرفت می‌تواند بی‌ثبات‌کننده باشد، اما می‌تواند مفید هم باشد، که بسیاری از فعالان این حوزه امیدوارند. من در تلاش هستم تا شرایط بهتر شود، اما ریسک بسیار بالاست و تمدن انسانی عمدتاً بدون توجه به این گذار، در حال حرکت است.»

همزمان، موسسه ایمنی هوش مصنوعی بریتانیا (AISI) اعلام کرد که توانایی مدل‌های پیشرفته در همه حوزه‌ها به سرعت در حال بهبود است و عملکرد برخی حوزه‌ها هر هشت ماه دو برابر می‌شود. این موسسه همچنین گزارش داد مدل‌های پیشرفته می‌توانند به‌طور خودکار وظایفی را انجام دهند که انجام آن برای یک کارشناس انسانی بیش از یک ساعت طول می‌کشد و برخی مدل‌ها موفقیت بیش از ۶۰٪ در خودتکثیری دارند، هرچند این سناریو در شرایط واقعی کم‌احتمال است.

دالریمپل پیش‌بینی کرد تا اواخر سال ۲۰۲۶، سیستم‌های هوش مصنوعی قادر خواهند بود معادل یک روز کامل کار تحقیق و توسعه را خودکار انجام دهند و این موضوع باعث تسریع بیشتر در پیشرفت‌های این فناوری خواهد شد.

پربیننده ترین پست همین یک ساعت اخیر

لزوم جلوگیری از خشونت جماعات خودسر در خیابان و میدان

خبر بعد نظرات کاربران خبر قبل