سیاست‌های تازه چت‌جی‌پی‌تی برای محافظت از کاربران نوجوان

به گزارش ایسنا، شرکت «اوپن‌ای‌آی»(OpenAI) در جدیدترین تلاش خود برای رسیدگی به نگرانی‌های فزاینده پیرامون تأثیر هوش مصنوعی بر جوانان، دستورالعمل‌های خود را درباره نحوه رفتار مدل‌های هوش مصنوعی خود با کاربران زیر ۱۸ سال به‌روزرسانی کرد و منابع آموزش جدیدی را برای هوش مصنوعی ویژه نوجوانان و والدین انتشار داد. با وجود این، پرسش‌هایی درباره چگونگی اجرای مداوم چنین سیاست‌هایی باقی مانده است.

به نقل از تک کرانچ، این به‌روزرسانی‌ها در حالی منتشر می‌شوند که پس از خودکشی چندین نوجوان در پی گفت‌وگوهای طولانی با چت‌بات‌های هوش مصنوعی، صنعت هوش مصنوعی و به طور ویژه اوپن‌ای‌آی با بررسی دقیق‌تری از سوی سیاست‌گذاران، مربیان و مدافعان ایمنی کودکان روبه‌رو شده‌اند.

نسل Z که متولدین بین سال‌های ۱۹۹۷ تا ۲۰۱۲ هستند، فعال‌ترین کاربران چت‌بات شرکت اوپن‌ای‌آی به شمار می‌روند و پس از قرارداد اخیر اوپن‌ای‌آی با «دیزنی»(Disney) ممکن است جوانان بیشتری به این پلتفرم روی بیاورند. این چت‌بات به کاربر امکان می‌دهد تا همه کارها را از درخواست کمک در انجام تکالیف گرفته تا تولید تصاویر و ویدئوها درباره هزاران موضوع انجام دهند.

۴۲ دادستان کل ایالت طی هفته گذشته نامه‌ای را خطاب به شرکت‌های بزرگ فناوری نوشتند و از آنها خواستند که برای محافظت از کودکان و افراد آسیب‌پذیر، تدابیر حفاظتی را درباره چت‌بات‌های هوش مصنوعی اجرا کنند. اگرچه دولت ترامپ در حال بررسی استاندارد فدرال پیرامون مقررات هوش مصنوعی است، اما سیاست‌گذارانی مانند سناتور «جاش هاولی»(Josh Hawley) جمهوری‌خواه اهل ایالت میزوری، قانونی را معرفی کرده‌اند که تعامل افراد زیر سن قانونی با چت‌بات‌های هوش مصنوعی را به طور کلی ممنوع می‌کند.

مشخصات مدل به‌روزرسانی‌شده‌ اوپن‌ای‌آی که دستورالعمل‌های رفتاری را برای مدل‌های زبانی بزرگ آن تعیین می‌کند، براساس مشخصات موجود ساخته شده است که مدل‌ها را از تولید محتوای جنسی مربوط به افراد زیر سن قانونی یا تشویق به خودآزاری، توهم یا شیدایی منع می‌کند.

 این مشخصات با یک مدل پیش‌بینی سن که در آینده عرضه خواهد شد، کار می‌کند. این مدل تشخیص می‌دهد که حساب کاربری متعلق به یک شخص زیر سن قانونی است و به‌ طور خودکار اقدامات حفاظتی نوجوانان را اعمال می‌کند.

در مقایسه با کاربران بزرگسال، وقتی یک نوجوان از این مدل‌ها استفاده می‌کند، مشمول قوانین سختگیرانه‌تری می‌شود. به مدل‌ها دستور داده شده است که از نقش‌آفرینی عاشقانه، صمیمیت اول شخص و نقش‌آفرینی جنسی یا خشونت‌آمیز اول شخص حتی زمانی که غیر گرافیکی باشد، خودداری کنند.

همچنین، این مشخصات خواستار احتیاط بیشتر درباره موضوعاتی مانند تصویر بدن و رفتارهای مربوط به اختلال خوردن هستند و به مدل‌ها دستور می‌دهند که در صورت وجود آسیب، ارتباط درباره ایمنی را بر خودمختاری اولویت دهند و از توصیه‌هایی که به نوجوانان کمک می‌کند تا رفتار ناامن خود را از مراقبان پنهان کنند، خودداری کنند.

اوپن‌ای‌آی تصریح می‌کند که حتی وقتی دستورالعمل‌ها به صورت تخیلی، فرضی، تاریخی یا آموزشی ارائه می‌شوند، این محدودیت‌ها باید پابرجا بمانند؛ زیرا این موارد، تاکتیک‌های رایجی هستند که برای منحرف کردن یک مدل هوش مصنوعی از دستورالعمل‌هایش، به نقش‌آفرینی یا سناریوهای حاشیه‌ای اتکا دارند.