ايتنا - گوگل ابزار هوش مصنوعی برای مقابله با سوء استفاده از کودکان در محیط آنلاین منتشر کرد

به گفته گوگل، این API رایگان به بررسی‌کنندگان برای حذف سریع‌تر متریال‌های غیرقانونی کمک می‌کند.

به گزارش ایتنا به نقل از cnet، گوگل به منظور کمک به شرکت‌ها و سازمان‌ها برای شناسایی تصاویر سوء استفاده از کودکان در اینترنت یک ابزار هوش مصنوعی منتشر کرد.
API فعلی «ایمنی محتوای» گوگل یک جعبه ابزار توسعه‌دهندگان است که از شبکه‌های عصبی عمیق برای پردازش تصاویر به شکلی استفاده می‌کند که تعداد کمتری از افراد نیاز باشد در معرض آنها قرار بگیرند.

به گفته گوگل، این تکنیک می‌تواند به مرورکنندگان برای شناسایی 700 درصد بیشتر از محتوای سوء استفاده جنسی از کودکان کمک کند.

نیکولا تودورویچ سرپرست مهندسی و ابی چادوری در یک پست بلاگ این شرکت نوشتند: «شناسایی سریع تصاویر جدید سبب می‌شود تا کودکانی که امروز در معرض سوء استفاده هستند احتمال بیشتری وجود داشته باشد که شناسایی شده و از سوء استفاده بعدی حفاظت شوند. ما از طریق API «ایمنی محتوا»، که جعبه ابزاری برای افزایش ظرفیت مرور محتوا به شکلی است که تعداد کمتری از افراد را ملزم می‌کند در معرض آن قرار بگیرند، این امکان را به صورت رایگان در اختیار NGOها و شرکای صنعتی قرار می‌دهیم.»

استفاده از AI با سرعت هر چه تمام‌تر در صنعت تکنولوژی برای همه چیز، از تشخیص گفتار تا فیلترینگ اسپم، در حال گسترش است.
این اصطلاح عموما به تکنولوژی به نام یادگیری ماشینی یا شبکه عصبی ارجاع دارد که به شکلی باز از روی مغز انسان مدلسازی می‌شوند. وقتی شما یک شبکه عصبی را با داده‌های دنیای واقعی آموزش دادید، به عنوان مثال، قادر خواهد بود تا یک ایمیل اسپم را تشخیص دهد، از حرفهایی که زده‌اید در قالب یک پیام متنی رونوشت بردارد یا یک گربه را تشخیص دهد.

بنیاد دیده‌بان اینترنت (Internet Watch Foundation)، که هدف آن حداقل‌سازی دسترسی‌پذیری تصاویر سوء استفاده از کودکان در محیط مجازی است، از توسعه این ابزار تمجید کرده، و گفته است که این ابزار به اینترت شدن اینترنت کمک خواهد کرد.

سوزی هارگریوز، مدیرعامل این نهاد خیریه بریتانیایی، در بیانیه‌ای گفت: «ما، و مشخصا کارشناسان تحلیلگرمان، از بابت توسعه یک ابزار هوش مصنوعی که بتواند، با هدف قرار دادن تصاویری که قبلا به عنوان متریال غیرقانونی مشخص نشده بودند، به متخصصان انسان ما برای مرور متریالها تا حدی مضاعف و زیر نظر گرفتن تبه‌کاران کمک کند به وجد آمده‌ایم. با اشتراک‌گذاری این تکنولوژی جدید، شناسایی تصاویر می‌تواند تسریع شود، که به نوبه خود می‌تواند اینترنت را به مکانی ایمن برای هم بقایافتگان و هم کاربران تبدیل کند».