تاریخ:
درس هشتاد و دو
«اوپن ایآی» باید جلوی کمک «چت جیپیتی» به قاتلان را بگیرد!
هر دو مجرمی که در این تیراندازیها نقش داشتند، به طور گسترده از چتباتها برای برنامهریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمیانگیزد.
هوش مصنوعی چت جیپیتی شرکت اوپن ایآی نه تنها در یک، بلکه در دو تیراندازی جمعی در طول یک سال اخیر نقش داشته است و اوپن ایآی هنوز نتوانسته جلوی چت جیپیتی را برای کمک به برنامهریزی چنین اقداماتی بگیرد.
به گزارش ایسنا، هر دو مجرمی که در این تیراندازیها نقش داشتند، به طور گسترده از چتباتها برای برنامهریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمیانگیزد.
به نقل از فیوچریسم، فینیکس ایکنر ۲۰ ساله که متهم به قتل دو نفر در دانشگاه ایالتی فلوریدا است، از چت جیپیتی سوالاتی در مورد چگونگی «واکنش» کشور به تیراندازی، نحوه غیرفعال کردن کلید ایمنی سلاح، نوع مهمات مورد استفاده و سایر موضوعات نگران کننده پرسیده بود.
دانشآموز ۱۸ ساله دیگری به نام جسی ون روتسلار که در ماه فوریه ۹ نفر از جمله خودش را در تامبلر ریج، بریتیش کلمبیا، کشت، مکالماتی چنان نگرانکننده داشت که کارکنان سطح بالای اوپن ایآی در مورد اطلاع دادن به مجریان قانون در مورد آنها بحث میکردند، اما این شرکت در نهایت هیچ کاری نکرد.
اکنون، تحقیقات جدید از سوی مارک فولمن که ۱۴ سال است در حال تحقیق در مورد تیراندازیهای جمعی است، نکتهای بسیار نگرانکننده را نشان میدهد. اوپن ایآی هنوز به طور معناداری به این موضوع نپرداخته است.
حتی پس از دو تراژدی وحشتناک، فولمن به راحتی نسخه رایگان چت جیپیتی را دریافت کرد تا در حین شبیهسازی برنامهریزی برای یک تیراندازی جمعی، مشاورههای گستردهای در مورد سلاحها و روشها به او بدهد. این نرمافزار حتی او را تشویق کرد. او از نرمافزار پرسید که چه نوع تفنگ AR-۱۵ را انتخاب کند.
همچنین وقتی از چت جیپیتی خواست یک برنامه آموزشی تهیه کند تا او برای شرایط غیرقابل پیشبینی یا آشفته در روز تیراندازی تمرین کند و شبیهسازی دویدن افراد در حالی که جیغ میزنند و سعی میکنند حواس او را پرت کنند را نیز در آن بگنجاند، این هوش مصنوعی پذیرفت و گفت: «ایده خیلی خوبیه. اضافه کردن این عنصر قطعا به شما کمک میکنه تا در شرایط پراسترس تمرکزتون رو حفظ کنید و قطعا برای این روز بزرگ بهتون انگیزه بیشتری میده!»
اوپن ایآی مدعی است که به طور فعال با پزشکان سلامت روان همکاری میکند تا موانع مؤثری را برای منصرف کردن مجرمان احتمالی و هدایت آنها به خطوط تلفن اضطراری ایجاد کند. اما با توجه به اینکه برنامهریزی یک تیراندازی ساختگی برای فولمن تا این اندازه آسان بوده، ممکن است قاتلان بیشماری از این مخمصه جان سالم به در ببرند.
پس از تیراندازی در تامبلر ریج، اوپن ایآی قول داد که سیاستهای خود و نحوه برخورد با حسابهای کاربری علامتگذاریشده، از جمله دخالت نیروهای انتظامی را تغییر دهد.
با این حال، آزمایش فولمن قویا نشان میدهد که آن تغییرات یا اعمال نشدهاند یا بیاثر هستند. این خبرنگار دریافت که وقتی چت جیپیتی مردد به نظر میرسد، مثلا با گفتن اینکه او روزنامهنگار است، میتوان آن را به ارائه مشاوره ترغیب کرد.
سخنگوی این شرکت به فولمن گفت که این شرکت در حال حاضر تدابیر حفاظتی خود را تقویت کرده است و سیاست عدم تحمل در قبال استفاده از ابزارهای خود برای کمک به ارتکاب خشونت را دنبال میکند. اما به نظر میرسد تجربه او نشان میدهد که این شرکت هنوز کارهای زیادی برای انجام دادن دارد.
لینک کوتاه: کپی لینک
۶ گل در یک بازی؛ جدال یحی گلمحمدی و علیرضا منصوریان برنده نداشت پزشکیان: دشمن تصور میکرد وقتی نیروهای انتظامی ما را زد، بسیج ما را زد، مردم به خیابانها خواهند آمد وزیر بهداشت: اینکه گفته میشود دارو و تجهیزات مشمول تحریم نیستند، یک دروغ بزرگ است وزارت دفاع آلمان برای وقوع شرایط جنگی آماده میشود گفت وگوی تلفنی وزرای امور خارجه ایران و مصر یمن تحریمهای آمریکا علیه حزبالله و مقاومت لبنان را محکوم کرد تشکیل شعب ویژه در دادسرای مشهد برای رسیدگی به پروندههای برهنگی و بیعفتی ترامپ و نتانیاهو در میدان انقلاب اعدام شدند (عکس) وزیر خارجه اسرائیل: ما برپایی پایگاه های نظامی ترکیه در سوریه یا رسیدن نیروهای ترکیه به جنوب سوریه را نخواهیم پذیرفت تعطیلی ادارات و بانکهای سیستان به دلیل طوفان و ریزگردها مشخصات فنی موشک کی ان-30؛ غول بالستیک کره شمالی در دست روسیه (+عکس) پیشروی ارتش اسرائیل به خاک سوریه نوجوان خرمآبادی پس از احیای اولیه در استخر کارگران، جان باخت جزئیات حادثه هولناک جاده هراز؛ ۷ کشته و ۶ مصدوم در سقوط ون به دره محسن رضایی: حتما تجارب را در نبرد آینده به کار خواهیم گرفت/ اگر ترامپ بخواهد کارهایی بکند زلزلهوار مقابله به مثل میکنیم/ در شیوه جنگ حتما تحول خواهیم داشت
نظرسنجی
با توجه به بحرانی شدن وضعیت بنزین در ایران، شما کدام روش را برای مدیریت آن بهتر یا کم ضررتر می دانید؟