ايتنا - تقلب الگوریتم یادگیری ماشین در هنگام تهیه نقشه‌ها!

به گزارش ایتنا از رایورز به نقل از تک‌کرانچ، یک عامل یادگیری ماشین که قرار بود تصاویر هوایی خیابان‌ها را به نقشه‌های خیابانی گوگل تبدیل کند، با پنهان کردن برخی از اطلاعات، قصد داشت تقلب کند و از زیر کار در برود!

در ابتدا، این عامل کارش را به‌خوبی انجام می‌داد، اما آنچه که اوضاع را بر هم زد، این بود که هنگامی که این دست به بازسازی عکس‌های هوایی از نقشه‌های خیابان زد، جزئیات خیلی زیادی بودند که به‌نظر می‌رسید در این نقشه‌ها ناپدید شده باشند.

نقشه اصلی (سمت چپ) نقشه خیابانی گوگل که از روی نقشه اصلی تولید شده (مرکز) و نقشه هوایی که فقط از روی نقشه خیابانی تولید شده است.

البته این عامل یادگیری ماشین می‌بایست بتواند ویژگی‌های هر نوع از نقشه‌ها را تفسیر کرده و آنها را با ویژگی‌های نقشه دیگر، جور کند. اما نحوه سنجش این عامل، بر اساس مشابهت میان نقشه هوایی و نقشه اصلی و همینطور وضوح نقشه خیابانی بود.

نقشه اصلی خیابان- سمت چپ
نقشه تهیه شده از عکس اصلی - تصویر وسط
و نقشه هوایی - سمت راست

بنابراین این عامل یاد نگرفت که چطور یک نقشه را از روی دیگری ایجاد کند؛ بلکه یاد گرفت چطور ویژگی‌های یکی را با ظرافت در در قالب نویز در نقشه دیگر قرار دهد.
البته جزئیات نقشه هوایی به‌طور مخفیانه در داده‌های دیداری واقعی نقشه خیابانی نوشته شده‌اند و تغییرات بسیار کوچکی در رنگ هستند که چشم انسان نمی‌تواند آنها را تشخیص دهد.

در واقع، این عامل آنقدر در حذف این جزئیات در نقشه‌های خیابانی خبره شده است که دیگر یاد گرفته چطور هر نقشه هوایی را به هر نقشه خیابانی دلخواه تبدیل کند!

گفتنی است نقشه سمت راست با هیچ تغییر بصری خاصی به نقشه‌های سمت چپ تبدیل شد. نقشه‌های رنگی در (c)، تفاوت‌های اندکی را به تصویر می‌کشند که کامپیوتر مسبب ناپدید شدن آنها بود و می‌توان دید که آنها شکل کلی نقشه هوایی را تشکیل می‌دهند.

همچنین گفتنی است اینکه یک کامپیوتر برای طفره رفتن از یادگیری واقعی و شانه خالی کردن از انجام کاری که باید انجام دهد، برای خودش یک روش پنهان‌نگاری مخصوص داشته باشد، خیلی عجیب و بی‌سابقه است.