تهدید نامرئی آزادی؛ هوش مصنوعی و تثبیت قدرت در دستان غول‌های فناوری

عصر ایران؛ محمد حسن گودرزی - تحلیل‌های جدید نشان می‌دهد فناوری تازه به جای توزیع عادلانۀ دانش، در حالِ تمرکز بی‌سابقه قدرت در دستان گروهی انگشت‌شمار از غول‌های فناوری و میلیاردرهای سیلیکون‌ولی است. 

این روند، نه تنها حریم خصوصی، بلکه بنیادین‌ترین حق بشر یعنی «عاملیت و اراده آزاد» را نشانه رفته است؛ مسیری که در آن، تصمیم‌گیری برای سرنوشت میلیاردها انسان، نه توسط قانون یا دموکراسی، بلکه توسط الگوریتم‌هایی دیکته می‌شود که تنها منافع خالقان و کنترل‌کنندگان خود را تضمین می‌کنند.

به گزارش عصرایران، دکتر سانیا فیصل الحسینی ( Sania Faisal El-Husseini) استاد علوم سیاسی و روابط بین‌الملل در دانشگاه عربی-آمریکایی در فلسطین و از اعضای انستیتو خاورمیانه در یادداشتی که در تارنمای   میدل ایست مانیتور (Middle East Monitor) منتشر کرده به موضوع تهدید آزادی و اخلاقیات انسانی توسط هوش مصنوعی پرداخته است.

در این یادداشت آمده است: برنی سندرز، سناتور سرشناس دموکرات ایالات متحده، اخیراً زنگ خطر را درباره خطرات بالقوه‌ای که هوش مصنوعی (AI) برای آمریکا ایجاد می‌کند، به صدا درآورد. 

او این نگرانی‌ها را در سخنرانی اخیر خود و همچنین در مقاله‌ای که اوایل ماه جاری در روزنامه پرمخاطب بریتانیایی «گاردین» با عنوان «هوش مصنوعی تهدیداتی بی‌سابقه ایجاد می‌کند؛ کنگره باید همین حالا اقدام کند» منتشر شد، ابراز کرد. 

مداخله سندرز نقطه عزیمت مهمی برای بحثی گسترده‌تر درباره ریسک‌های مرتبط با گسترش جهانی هوش مصنوعی فراهم می‌کند؛ چه در شکل عمومی و غیرنظامی آن که با پلتفرم‌هایی مانند «چت‌جی‌پی‌تی» (ChatGPT) شناخته می‌شود، و چه در شکل امنیتی و حاکمیتی آن که توسط سیستم‌هایی نظیر «پالانتیر» (Palantir) نمایندگی می‌شود. برای جوامع خارج از ایالات متحده، پیامدهای این گسترش ممکن است حتی عمیق‌تر و به‌طور بالقوه خطرناک‌تر باشد.

جایگزینی عاملیت انسانی با هوش مصنوعی

سندرز در مقاله خود هشدار داد هوش مصنوعی و رباتیک در آستانه بازتعریف بنیادین جهان هستند و تغییراتی را رقم خواهند زد که تصور آن‌ها دشوار است. 

او با ابراز نگرانی عمیق بیان کرد  در آینده‌ای نه‌چندان دور، هوش مصنوعی می‌تواند جایگزین عاملیت و اراده انسانی در اداره سیاره زمین شود؛ موضوعی که به گفته او، با وجود سرعت تحول تهدیداتش، به‌شکل خطرناکی نادیده گرفته شده است. 

سندرز به تشریح تأثیر عمیق هوش مصنوعی بر زندگی انسان پرداخت و استدلال کرد هر تماس تلفنی، هر ایمیل و هر جست‌وجویی که انجام می‌دهیم، به‌طور بالقوه در دسترس مالکان سیستم‌های هوش مصنوعی است. 

او همچنین نسبت به نفوذ فزاینده هوش مصنوعی در جنگ‌ها و در تاروپود روابط انسانی هشدار داد.

الیگارشی فناوری: تمرکز قدرت در دست عده‌ای محدود

گزارش‌های تخصصی نشان می‌دهند  تنها پنج شرکت بزرگ شامل گوگل، متا، آمازون، مایکروسافت و OpenAI، اکنون حدود ۸۰ تا ۹۰ درصد از منابع پژوهشی و زیرساخت‌های اصلی هوش مصنوعی را در کنترل دارند. 

این تمرکز قدرت، نفوذی تعیین‌کننده را در اختیار حلقه کوچکی از ثروت‌مندترین افراد جهان از جمله ایلان ماسک، جف بزوس، بیل گیتس، مارک زاکربرگ، پیتر تیل و دیگران قرار می‌دهد. 

این افراد سرمایه‌گذاری‌هایی به ارزش صدها میلیارد دلار را به سمت توسعه هوش مصنوعی و رباتیک هدایت می‌کنند و عملاً آینده بشریت را با نظارت یا پاسخگویی ناچیز شکل می‌دهند.

ایلان ماسک اخیراً استدلال کرده هوش مصنوعی و رباتیک در نهایت جایگزین تمام مشاغل خواهند شد.

داریو آمودی (Dario Amodei)، مدیر اجرایی شرکت «آنتروپیک» (Anthropic)، هشدار داده هوش مصنوعی می‌تواند منجر به از بین رفتن نیمی از مشاغل اداری (یقه‌سفید) سطح پایین شود.

دیگران حتی فراتر رفته‌اند؛ لری الیسون، دومین فرد ثروتمند جهان، صراحتا دربارۀ ظهور یک سیستم نظارتی مبتنی بر هوش مصنوعی گمانه‌زنی کرده است.

دونالد ترامپ به‌عنوان مدافع سرسخت نخبگان «بیگ تک» (Big Tech) ظاهر شده است. 

او متعهد شده  محدودیت‌های نظارتی بر هوش مصنوعی را لغو کند؛ از جمله لغو فرمان اجرایی جو بایدن که به‌دنبال ایجاد حفاظ‌های ایمنی برای توسعه هوش مصنوعی بود. 

ترامپ قصد دارد این اقدامات را با تدابیری جایگزین کند که به گفته او «موانع نوآوری» را حذف می‌کنند.

او مکرراً استدلال کرده برای تقویت رقابت‌پذیری جهانی شرکت‌های فناوری بزرگ، باید محدودیت‌ها کاهش یابد و حتی از محدود کردن توانایی ایالت‌های آمریکا برای تنظیم مقررات هوش مصنوعی دفاع کرده است.

در سوی دیگر، پیتر تیل (Peter Thiel)، سرمایه‌گذار میلیاردر و از ‌بنیان‌گذاران  پالانتیر، منتقد صریح تلاش‌ها برای تنظیم مقررات هوش مصنوعی بوده و اغلب، مقررات را تهدیدی برای پیشرفت فناورانه و قدرت ملی توصیف می‌کند. 

در مقابل، سندرز خواستار آن است که ایالات متحده اقتدار نظارتی محکمی بر شرکت‌های هوش مصنوعی اعمال کند و از قانون‌گذاران خواسته تا رفتار این شرکت‌ها را منضبط کنند، مسیر توسعه آن‌ها را از طریق قانون هدایت نمایند و مکانیسم‌های نظارتی قوی ایجاد کنند.

جعبه سیاه قدرت: عدم شفافیت و انتقال حاکمیت

امروزه هوش مصنوعی با ترس‌های فزاینده از یک «اقتدار جهانی متمرکز» درهم‌آمیخته است؛ قدرتی که قادر است از طریق انحصار اطلاعات توسط گروه کوچکی از افراد، کنترل خود را اعمال کند. 

خطرات ناشی از سلطه جهانی هوش مصنوعی برای سایر ملت‌ها و جوامع حادتر به نظر می‌رسد، به‌ویژه با توجه به اینکه منشأ این فناوری (چه در قالب ChatGPT و چه Palantir) غالباً آمریکایی است. 

این سلطه فناورانه، چه بازتاب‌دهنده یک گرایش ایدئولوژیک باشد و چه یک طرح استراتژیک، پیامدهای ژئوپلیتیک دشواری برای کشورهایی دارد که فاقد اهرم‌های نظارتی یا استقلال فناورانه هستند.

انتقادات فزاینده‌ای متوجه شرکت‌های هوش مصنوعی است، چرا که اطلاعات و به‌تبع آن قدرت را در دستان مالکان این سیستم‌ها متمرکز می‌کنند. این تمرکز با عدم شفافیت پایدار تشدید می‌شود:

-  مکانیسم‌های داخلی عملکرد و منطق زیربنایی رفتار سیستم‌ها مبهم است.

-  جهت‌گیری‌های هنجاری و فرآیندهای تصمیم‌گیری شفاف نیستند.

-  قراردادهای بین این شرکت‌ها و دولت‌ها در هاله‌ای از خفا و پنهان‌کاری قرار دارد.

نگران‌کننده‌ترین بُعد ماجرا این است که خروجی‌های این شرکت‌ها به‌طور فزاینده‌ای در دستان تعداد کمی از دولت‌ها متمرکز می‌شود تا در جنگ، امنیت و نظارت به کار گرفته شود. 

این مسیر خطرِ تسهیل انتقال تدریجی «اختیار تصمیم‌گیری» از دولت‌های مستقل به یک ساختار قدرت متمرکز و فراگیر مبتنی بر هوش مصنوعی را در پی دارد.

مطالعه موردی اول: OpenAI و ChatGPT  

سام آلتمن (Sam Altman)، مدیرعامل OpenAI و یکی از بنیان‌گذاران اصلی ChatGPT، چهره‌ای کلیدی است. او که پیشینه یهودی دارد، علناً درباره یهودی‌ستیزی صحبت کرده و در رویدادهایی در تل‌آویو شرکت جسته و درباره نقش احتمالی اسرائیل در آینده هوش مصنوعی سخن گفته است. ایلیا سوتسکِوِر (Ilya Sutskever)، دیگر هم‌بنیان‌گذار و پژوهشگر ارشد، دارای شهروندی اسرائیل و کانادا است. مایکروسافت به‌عنوان یکی از بزرگ‌ترین سرمایه‌گذاران، زیرساخت‌های ابری حیاتی برای این شرکت فراهم می‌کند. 

تغییر ساختار این شرکت از غیرانتفاعی به مدل «سود محدود» (capped-profit)، حتی منجر به شکایت حقوقی ایلان ماسک، یکی از بنیان‌گذاران اولیه این شرکت شد.

مطالعه موردی دوم: پالانتیر (Palantir) و پیوند با اسراییل

پالانتیر که در سال ۲۰۰۳ با هدف رسیدگی به چالش‌های امنیتی پس از ۱۱ سپتامبر تأسیس شد، در زمینۀ مدیریت و تحلیل کلان‌داده‌های حساس برای نهادهای دفاعی، اطلاعاتی و انتظامی فعالیت می‌کند. این شرکت علی‌رغم قراردادهای گسترده با نهادهای دولتی حساس، لیست مشتریان خود را فاش نمی‌کند.

پالانتیر مشارکت‌های استراتژیکی با اسراییل منعقد کرده تا فناوری‌های تحلیل داده و سیستم‌های هوشمند را برای نهادهای نظامی و امنیتی اسراییل در جریان درگیری‌های جاری تأمین کند:

-  در سال ۲۰۲۴، جلسه هیأت‌مدیره این شرکت در تل‌آویو برگزار شد که به‌عنوان نشانه‌ای از همبستگی تفسیر گردید.

-  گزارش‌ها حاکی از آن است که پالانتیر ابزارهای فناورانه را در طول جنگ غزه در اختیار اسراییل قرار داده است.

این روابط منجر به جنجال و فروش سهام توسط برخی سرمایه‌گذاران جهانی در اعتراض به نقش این شرکت در جنگ غزه شده است.

الکس کارپ (Alex Karp)، مدیرعامل پالانتیر، خود را یهودی سکولار توصیف می‌کند اما بر تأثیرپذیری اخلاقی از سنت یهودی تأکید دارد. او با ارجاع به «حافظه تاریخی قوم یهود»، بر اهمیت قدرت و حفاظت تأکید می‌کند و فناوری را ابزاری ذاتاً سیاسی می‌داند که باید برای حفاظت از دولت‌های لیبرال دموکراسی (از جمله اسرائیل) به کار گرفته شود.

پیتر تیل (Peter Thiel)، هم‌بنیان‌گذار و حامی مالی اصلی پالانتیر، دیدگاه‌های پیچیده‌ای دارد. او که مسیحی است و تحت تأثیر اندیشه‌های «رنه ژیرار» (فیلسوف فرانسوی) قرار دارد، در لفاظی‌های خود از زبان مذهبی استفاده می‌کند. او هنگام بحث درباره یک قدرت جهانی که با سلب آزادی و تمرکز قدرت وعده صلح می‌دهد، از استعاره «دجال» (Antichrist) استفاده می‌کند. پارادوکس ماجرا اینجاست: خطراتی که تیل نسبت به آن‌ها هشدار می‌دهد (قدرت متمرکز و کنترل فناورانه)، دقیقاً با کارکرد شرکت خودش، پالانتیر، همسویی دارد.

نظریه قربانی و دشمن‌تراشی

با تکیه بر ایده رنه ژیرار (که تیل به آن ارادت دارد)، ترس از خشونت درون جوامع، محرک جستجو برای یک راه‌حل جامع یا یک «دشمن تعیین‌شده» است. در این چارچوب، جوامع قربانی کردن آن دشمن را می‌پذیرند، حتی اگر ناعادلانه باشد، یا ساخت یک نظم جدید و واحد را به نام صلح تایید می‌کنند، حتی اگر به قیمت تسلیم آزادی باشد.

 این منطقِ قربانی کردن، پس از حملات ۱۱ سپتامبر مشهود بود که دشمن جدیدی در خاورمیانه تولید کرد و جنگ‌های عراق و افغانستان را رقم زد. جنگ‌هایی که بعداً مشخص شد بر اساس اطلاعات نادرست بوده‌اند. این تحولات در بستر سیاست خارجی آمریکا رخ داد که پس از فروپاشی شوروی، به‌دنبال یک «دشمن وحدت‌بخش» برای توجیه گسترش دستگاه‌های نظامی و امنیتی بود.

برون‌سپاری حاکمیت: مدل آمریکایی

هر دو شرکت OpenAI و Palantir ریشه در آمریکا دارند. OpenAI اکنون یک شرکت خصوصی با مشارکت مایکروسافت است و پالانتیر از ابتدا با سرمایه‌گذاری بازوی خطرپذیر جامعه اطلاعاتی آمریکا (In-Q-Tel) رشد کرد. در آمریکا و کشورهای غربی، دولت‌ها گاهی «کارکردهای حاکمیتی» را به شرکت‌های خصوصی برون‌سپاری می‌کنند. این اقدام:

-  پاسخ‌گویی مستقیم نهادهای رسمی را کاهش می‌دهد.

-  آزادی عمل عملیاتی فراتر از محدودیت‌های قانون اساسی ایجاد می‌کند.

-  به دولت‌ها اجازه می‌دهد فناوری‌های حساس را بدون پذیرش مسئولیت رسمی بین‌المللی به متحدان صادر کنند.

فلسطین به مثابه آزمایشگاه کنترل دیجیتال

آنچه از موارد فوق برمی‌آید، خطر ویژه‌ای است که هوش مصنوعی برای جهان غیرغربی دارد. جایی که اهداف و چارچوب‌های ایدئولوژیک اغلب با چشم‌اندازهای استراتژیک آمریکا متفاوت است. تجربه مردم فلسطین تحت اشغال، می‌تواند به‌عنوان نمونه‌ای فشرده و عینی از نحوه عملکرد کنترل جهانی متمرکز از طریق سلطه اطلاعاتی و هوش مصنوعی عمل کند.

مقامات اشغالگر تقریباً بر تمام جنبه‌های زندگی فلسطینیان کنترل دارند: هدف‌گیری افراد، تعیین موقعیت، مسدودسازی حساب‌های بانکی و محدودیت سفر، همگی توسط این سلطه اطلاعاتی جامع ممکن می‌شوند. در این معنا، زندگی در فلسطین به‌طور فزاینده‌ای شبیه به زیستن در یک «زندان بزرگ» است. زندانی که دیوارهای آن دیجیتال، گلوله‌هایش نامرئی، اما اثراتش مرگبار است. این واقعیت ضرورت اقدام جمعی را برجسته می‌کند. دولت‌ها باید برای توقف گسترش مهارنشدنی این نیروی مخرب، با اعمال محدودیت‌های قانونی و نظارتی محکم در سطوح داخلی و بین‌المللی، قاطعانه عمل کنند.

سخنگوی کمیسیون اقتصادی مجلس: بازار ارز تا پایان سال تثبیت می‌شود

بیشتر بخوانید:

چگونه خود را در برابر آینده مبهم و پرهیاهوی هوش مصنوعی آماده کنیم؟

این فناوری احتمالا اتفاق بزرگ بعدی دنیا را رقم می‌زند

۹ هوش مصنوعی شگفت انگیز که دنیا را متحول می‌کنند/ تا به حال درباره شان نشنیده اید!

چهار روش مختلف برای درک هوش مصنوعی و خطرات آن

تماشاخانه

یلدا و قصه‌ی یکی شدن ما..! (فیلم)

آن روزها کنار هم بودن، خودش یک آیین بود / در ارتباط رودررو، چشم‌ها راست و دروغ را لو می‌دهند؛ چیزی که ابزارها از ما پنهان می‌کنند / ما قرار بود از ابزارها استفاده کنیم، اما حالا خودمان را در اختیارشان قراردادیم (فیلم)

فیلم های دیگر