ايتنا - واترمارک گوگل برای تصاویر هوش مصنوعی بدون امکان ویرایش و حذف

تیم DeepMind گوگل سال‌هاست بر این باور بوده است که ساخت ابزارهای مولد هوش مصنوعی به ساخت ابزارهای عالی برای تشخیص آنچه توسط هوش مصنوعی ایجاد شده است نیز نیاز دارد. دمیس هاسابیس، مدیرعامل DeepMind گوگل، می‌گوید دلایل واضح و پرمخاطره زیادی برای آن وجود دارد. وی مشخصاٌ به مشکل دیپ‌فیک‌ها اشاره کرد.

به گزارش ایتنا و به نقل از ورج، با توجه نزدیک شدن یک فصل انتخاباتی بحث‌برانگیز دیگر در سال 2024 در ایالات متحده و بریتانیا، هاسابیس می‌گوید که ساخت سیستم‌هایی برای شناسایی و تشخیص تصاویر تولیدشده توسط هوش مصنوعی از همیشه مهمتر شده است.

هاسابیس و تیمش در چند سال گذشته بر روی ابزاری کار کرده اند که گوگل آن را به صورت عمومی منتشر کرد. نام این ابزار SynthID است و اساساً برای علامت‌گذاری (واترمارک) تصاویر تولیدشده توسط هوش مصنوعی به گونه‌ای طراحی شده است که برای چشم انسان نامحسوس باشد اما به راحتی توسط یک ابزار تشخیص هوش مصنوعی قابل تشخیص باشد.

این واترمارک در پیکسل‌های تصویر تعبیه می‌شود، اما هاسابیس می‌گوید که خود تصویر را به شکل قابل‌توجهی تغییر نمی‌دهد. او می‌گوید: «این ابزار باعث تغییر تصویر، کیفیت تصویر یا تجربه آن نمی‌شود. اما در برابر دگرگونی‌های مختلف (برش زدن، تغییر اندازه، و همه کارهایی که ممکن است برای دور زدن واترمارک‌های معمولی، سنتی و ساده انجام شوند) مقاوم است. هاسابیس می‌گوید همانطور که مدل‌های اساسی SynthID بهبود می‌یابد، واترمارک حتی کمتر برای انسان قابل درک است اما با ابزارهای DeepMind به راحتی قابل تشخیص است.

البته حتی در پست وبلاگ راه‌اندازی آن نیز جزئیات چندانی درباره SynthID ارائه نشده است. هاسابیس می‌گوید: «هرچه بیشتر اطلاعات در مورد نحوه کار آن فاش کنید، هکرها و نهادهای شرور راحت‌تر می‌توانند آن را دور بزنند». SynthID ابتدا به شکلی مبتنی بر گوگل عرضه می‌شود: مشتریان Google Cloud که از پلتفرم Vertex AI شرکت و تولیدکننده تصویر Imagen استفاده می‌کنند، قادر خواهند بود واترمارک را تعبیه کرده و شناسایی کنند.

با توجه به اینکه این سیستم به تدریج در دنیای واقعی بیشتر تست خواهد شد، هاسابیس امیدوار است که به مرور عملکرد آن بهتر شود. سپس گوگل می‌تواند از آن در مکان‌های بیشتری استفاده کند، اطلاعات بیشتری در مورد نحوه عملکرد آن به اشتراک بگذارد و حتی داده‌های بیشتری در مورد نحوه عملکرد آن دریافت کند.