گوگل تبعیض را از هوش مصنوعی پاک می‌کند

TCAV طوری طراحی شده که مفاهیم تبعیض‌آمیزی مانند جنسیت و رنگ پوست را نداشته باشد. این فناوری، داده‌های مورد نیاز خود را با کمک مثال‌های گوناگون به دست می‌آورد و مفاهیمی مانند جنسیت، با مثال‌های متفاوت به آن آموزش داده می‌شوند.

گوگل تلاش می‌کند در فناوری‌های جدید خود، مشکلات مربوط به تبعیض را برطرف کند.

به گزارش ایسنا و به نقل از سی‌نت، گوگل سعی دارد هوش مصنوعی را از تبعیض حفظ کند.

"ساندار پیچای"(Sundar Pichai)، مدیر عامل گوگل در رویداد "Google I/O" گفت: ما پژوهش‌های خود را برای رسیدن به بینش‌های لازم در مورد الگوریتم‌های هوش مصنوعی گوگل آغاز کرده‌ایم و اطمینان داریم که هوش مصنوعی، تبعیض را در جهان تقویت نخواهد کرد.

پیچای در صحبت‌های خود، در مورد یک فناوری جدید موسوم به "TCAV" توضیح داد. TCAV یک روش تفسیر جدید را در بر دارد و از درک سیگنال‌های موجود در مدل‌های شبکه عصبی، برای پیش‌بینی‌های خود استفاده می‌کند.

پیچای افزود: آگاهی از کارکرد مدل هوش مصنوعی کافی نیست؛ بلکه باید از نحوه کارکرد آن آگاه بود. تبعیض حتی پیش از ظهور یادگیری ماشینی، یک نگرانی در حوزه علم به شمار رفته است و اکنون این نگرانی، در حوزه هوش مصنوعی بیشتر است.

TCAV کمک می‌کند تا بررسی تصمیم‌های گرفته شده توسط هوش مصنوعی، ساده‌تر باشد و اصطلاحات دوستانه‌تری ارائه می‌دهد. تصاویر ارائه شده در TCAV، کیفیت بهتری دارند و ساختارهای بی‌کیفیت پیکسلی در تصاویر آن دیده نمی‌شوند.

پژوهشگران گوگل در مقاله‌ای که در مورد TCAV ارائه دادند، به بیان این موضوع پرداختند که این فناوری می‌تواند مفاهیم پزشکی مربوط به پیش‌بینی یک مشکل چشمی موسوم به "رتینوپاتی دیابتی"(Diabetic retinopathy) را شناسایی کند.

همچنین این فناوری نشان می‌دهد که در ذهن هوش مصنوعی چه می‌گذرد تا انسان‌ها بتوانند آن را بهتر بررسی کنند. در مقاله مربوط به این فناوری آمده است: TCAV می‌تواند به متخصصان کمک کند تا هنگامی که با پیش‌بینی‌های مدل هوش مصنوعی مخالف هستند، از عهده تفسیر و برطرف کردن خطاهای آن برآیند.

پربیننده ترین پست همین یک ساعت اخیر

زیر «تخت‌جمشید» چه خبر است؟/ رازهای مهندسی یک بنای ۲۵۰۰ ساله (+ عکس)

خبر بعد نظرات کاربران خبر قبل