کد خبر ۱۱۹۷۵۹۸
تاریخ انتشار: ۰۸:۳۴ - ۱۸-۰۷-۱۴۰۵
کد ۱۱۹۷۵۹۸
انتشار: ۰۸:۳۴ - ۱۸-۰۷-۱۴۰۵

تغییر سیاست «آنتروپیک» برای جلوگیری از توهین به هوش مصنوعی!

آنتروپیک
شرکت «آنتروپیک» سیاست استفاده از مدل‌ها را تغییر می‌دهد تا جلوی سوءاستفاده از مدل‌ها، توهین به آنها و دخالت در انتخابات را بگیرد.

شرکت «آنتروپیک»(Anthropic) روز پنجشنبه سیاست استفاده خود را به‌روزرسانی کرد و ممنوعیت‌های جدیدی را درباره دخالت در انتخابات، نرم‌افزارهای تسلیحاتی و نظارت وضع کرد اما شاید جالب‌ترین تغییر، ممنوعیت جدید علیه سوءاستفاده کلامی بلندمدت از مدل باشد که اکنون صراحتاً ممنوع است.

به گزارش ایسنا به نقل از تک‌کرانچ، از زمان به‌روزرسانی هوش مصنوعی «کلود»(Claude) در ماه اوت، این مدل آموزش دیده است تا به گفت‌وگوهایی که تعاملات کاربری مداوم مضر یا توهین‌آمیز هستند، پایان دهد اما سیاست جدید صراحتاً کاربران را از ادامه‌ این گفت‌وگوها منع می‌کند.

در این پست توضیح داده شده است: این به‌روزرسانی سیاست فقط در موارد شدید اعمال می‌شود که کاربران بارها و بارها و بدون هیچ هدف مشخصی نسبت به مدل‌های ما بی‌رحمانه رفتار می‌کنند. این به‌روزرسانی درباره انواع رایج ناامیدی کاربر، محتوای خلاقانه یا آزمایش و بررسی مدل اعمال نمی‌شود.

این تغییر پس از آن صورت می‌گیرد که شرکت آنتروپیک به دنبال همکاری با پژوهشگران برجسته مذهبی بوده و در برخی موارد، تلاش کرده است تا آنها را متقاعد کند که کلود می‌تواند هوشیار باشد یا روح داشته باشد.

بخش‌های جداگانه‌ای از سیاست استفاده، کاربران را از مشارکت در کمپین‌های فریبکارانه گسترده مانند استفاده از کلود برای راه‌اندازی حساب‌های جعلی یا رسانه‌های خبری جعلی منع می‌کند. همچنین، این سیاست شامل قوانینی علیه فریب رأی‌دهندگان یا اخلال در انتخابات است که در بخشی با عنوان «فرآیندهای دموکراتیک را تضعیف نکنید» گردآوری شده است.

ارسال به دوستان
بانک دی بر توسعه بازار و جذب شرکای کلیدی در نمایشگاه نظام مالی کامیون کشنده با رانندگی دختر ۱۲ ساله توقیف شد آیدا پناهنده خطاب به برخی مدیران صداوسیما: مردم دنبال هوای تازه‌اند، نه قصه‌های تکراری! وزیر اقتصاد: تورم تا ۹ ماه آینده به کانال ۴۰ درصد بازمی‌گردد ترامپ: احتمال دستیابی به توافق صلح در اوکراین زیاد است سفیر ایران در آلمان: کودکان میناب قربانی دو بمب کثیف شدند یحیی سریع: رژیم سعودی طی 24 ساعت 78 بار به یمن حمله کرد دانمارک وابسته نظامی روسیه را اخراج کرد  وزارت دفاع روسیه از حمله به نیروگاه حرارتی اوکراین خبر داد ژئوسل چیست و چه کاربردی دارد؟ فناوری جالب لانه زنبوری برای تثبیت خاک و ساخت جاده را ببینید ترامپ: ایران توافق می‌خواهد، اما شرایط ما را نمی‌پذیرد/ جنگ علیه ایران یک اقدام نظامی کوچک است! دولت های مختلف جهان از چه هواپیماهایی استفاده می کنند؟ (تصویری) ماجرای اتاق شکنجه نزدیک کی یف چه بود؟ پشت پرده ویدئوی جنجالی اوکراین سخنگوی صنعت برق: پیامک ارسالی به مشترکان برق، برای تعمیرات شبکه است/ خاموشی ها اطلاع رسانی می شود معاون ترامپ: مردم آمریکا خواهان جنگ‌های احمقانه نیستند