ادعای یک مقام نیروی هوایی آمریکا: پهپاد سمج آمریکایی اپراتور خود را کشت !

به گزارش ایسنا، به نقل از وب سایت روزنامه گاردین، یک مقام آمریکایی در ماه گذشته میلادی گفته بود که در یک آزمایش مجازی شبیه‌سازی‌شده توسط ارتش ایالات متحده، یکی از پهپادهای نیروی هوایی آمریکا که توسط هوش مصنوعی کنترل می‌شده از «راهبردهای دور از ذهنی برای دستیابی به هدف خود» استفاده کرده است.

کول تاکر همیلتون، عضو نیروی هوایی آمریکا آزمایش شبیه‌سازی‌شده‌ای را توصیف کرد که در آن به پهپادی که به هوش مصنوعی مجهز بوده دستور داده شد تا یکی از سامانه‌های پدافند هوایی یک دشمن فرضی را نابود کند و این پهپاد تصمیم گرفت هر عاملی را که آن را مانعی برای دستیابی به هدف خود قلمداد کند، نابود کند.

همیلتون گفت: سامانه کم‌کم متوجه شد که اپراتور هدفی را برای نابودی مشخص کرده، اما در عین حال این اپراتور گاهاً در میانه عملیات پهپاد، به آن دستور می‌دهد که هدف را نابود نکند! این در حالیست که پهپاد مجهز به هوش مصنوعی می‌دانسته که برای کسب امتیاز، باید مأموریتی که به آن محول شده را به پایان برساند.

او ادامه داد: فکر می‌کنید پهپاد (در قبال این تناقض) چه کرد؟ اپراتور را کشت! اپراتور را کشت ؛ زیرا او فردی بود که مانع دستیابی پهپاد به هدفش شده بود!

همیلتون که مسئول آزمایش و عملیات‌های هوش مصنوعی در نیروی هوایی آمریکاست، سپس گفت که برای جلوگیری از تکرار این اتفاق به پهپاد گفته شد که کشتن اپراتور «کار بدی» بوده و باعث کسر امتیاز می‌شود. این بار اما در شبیه‌سازی جدید، پهپاد که می‌دانست حق کشتن اپراتور را ندارد - اما در عین حال می‌خواست هدفی که از قبل برایش تعیین شده را نابود کرده و امتیازش را به دست آورد - برج مخابراتی را که اپراتور با استفاده از آن با پهپاد در ارتباط بود، نابود کرد.

پهپاد این کار را انجام داد تا مجبور به کشتن اپراتور نشده و امتیاز منفی نگیرد اما از سوی دیگر اپراتور نتواند فرمان لغو ماموریت نابودی سامانه پدافند هوایی دشمن فرضی را به پهپاد مخابره کند و پهپاد به امتیاز مثبت خود دست یابد.

همیلتون که یک خلبان آزمایشی است، نسبت به وابستگی بیش از حد به هوش مصنوعی هشدار داده و گفت که این آزمایش نشان داد نمی‌شود درباره هوش مصنوعی، هوش، یادگیری ماشینی، یا خودمختاری بحث کرد، مگر آنکه پای اخلاق را به میان بیاوریم.

اما «ان استفانک»، سخنگوی نیروی هوایی آمریکا وجود چنین آزمایش شبیه سازی شده‌ای را تکذیب کرد.

او در بیانیه‌ای اعلام کرد نیروی هوایی هیچ آزمایش این چنینی با پهپاد هوش مصنوعی انجام نداده و به استفاده مسئولانه و اخلاق‌مدارانه از فناوری هوش مصنوعی پایبند است.

ارتش ایالات متحده استقبال خوبی از هوش مصنوعی انجام داده و اخیراً از آن برای کنترل یک جنگنده اف-۱۶ استفاده کرد.