نرم‌افزار فيلترينگ خودكار تصاوير مستهجن در اينترنت!

محققان دانشگاه صنعتي شريف موفق به طراحي نرم‌افزار تشخيص و فيلترينگ تصاوير با پردازش تصوير و يادگيري ماشين با قابليت تشخيص بيش از 90 درصد تصاوير غير اخلاقي متداول شدند.

مهران فتوحي، دانشجوي دكتري دانشگاه صنعتي شريف كه به همراه غلامرضا بخشي دانش‌آموخته مقطع كارشناسي ارشد دانشگاه يزد موفق به طراحي اين نرم افزار شده اند، در گفت‌وگو با ايسنا اظهار كرد: در حال حاضر پالايش‌هاي اوليه در اينترنت بر اساس نشاني اينترنتي و برخي كلمات در متن انجام مي‌شود كه ديگر چندان مناسب نيستند زيرا راه‌هاي زيادي براي عبور از اين نوع فيلترينگ وجود دارد.

وي با بيان اينكه روش‌هاي قديمي و ناكارآمد منجر به پالايش كور مي‌شود، تصريح كرد: در جديدترين روش‌هاي پالايش اينترنت، صفحات وب را بر اساس محتوا بررسي مي‌كنند.

فتوحي خاطرنشان كرد: روش طراحي شده در اين طرح، بدين صورت است كه با استفاده از روش‌هاي پردازش تصوير و يادگيري ماشين، تصاوير غير اخلاقي تشخيص داده مي‌شود.

فتوحي با بيان اينكه اين نرم‌افزار داراي دو مرحله آ‌موزش و تست است، خاطرنشان كرد: در مرحله آ‌موزش، ويژگي‌هاي استخراج شده از بزرگترين ناحيه پوستي توسط شبكه عصبي آموزش داده مي‌شود. همچنين اين ويژگي‌ها شامل ويژگي ها شكل و بافت است و تصاوير مورد استفاده براي آموزش از صفحات اينترنتي جمع‌آوري شده است كه خروجي شبكه عصبي ميزان غير اخلاقي بودن تصوير ورودي را نشان مي‌دهد.

به گفته فتوحي، دقت اين روش بسيار بالاست به نحوي كه با انتخاب مقدار مناسب آستانه بدوي خروجي شبكه عصبي، بيش از 90 د رصد تصاوير غير اخلاقي متداول به درستي تشخيص داده مي‌شوند.

وي در خصوص چگونگي نصب نرم افزاربراي انجام عمليات فيلترينگ گفت: شركت‌هايي كه خدمات اينترنتي مي‌دهند مي‌توانند از اين نرم‌افزار استفاده كنند. همچنين شركت مخابرات از جمله مراكزي است كه مي‌توانند از اين نرم افزاراستفاده كنند. البته گروه ما پيشنهاد كرده است كه يك جست‌وجوگر ملي مانند «فايرفاكس» يا «اينترنت اكسپلورر» ساخته شده و اين نرم افزار بومي فيلترينگ در آن تعبيه شود.