ايتنا - هشدار متا درباره برچسب‌گذاری محتوای تولید شده توسط هوش مصنوعی

متا در ماه‌های آینده با فرا رسیدن فصل انتخابات در سراسر جهان، برچسب‌گذاری (watermarking) عکس‌های تولید شده توسط هوش مصنوعی که در فیس‌بوک، اینستاگرام و Threads آپلود شده‌اند، را آغاز خواهد کرد. این شرکت همچنین به مجازات کاربرانی اقدام خواهد کرد که از برچسب‌گذاری برای ویدئوهای ساخته شده توسط هوش مصنوعی استفاده نمی‌کنند.

نیک کلگ، رئیس امور جهانی متا، در مصاحبه‌ای گفت که این گام‌ها به منظور «گالوانیزه کردن» صنعت فناوری است، زیرا تشخیص دادن محتوای تولید شده توسط هوش مصنوعی از واقعیت بسیار دشوار شده است. کاخ سفید به شدت شرکت‌هارا تحت فشار گذاشته تا محتوای تولید شده توسط هوش مصنوعی را برچسب‌گذاری کنند. به گفته کلگ، در این میان، متا در حال ساخت ابزارهایی برای شناسایی محتوای مصنوعی است، حتی اگر ابرداده‌های آن برای مبهم کردن نقش هوش مصنوعی در تولید آن، تغییر داده شده باشد.

متا پیش‌تر، برچسب "تولید شده توسط هوش مصنوعی" را روی تصاویر ایجاد شده با مولد Imagine AI اعمال می کرد. حالا همین کار را برای عکس‌های تولید شده توسط هوش مصنوعی که با ابزارهای دیگری مانند گوگل، مایکروسافت، ادوبی، Shutterstock و Midjourney ساخته شده‌اند را آغاز خواهد کرد. کلگ گفت که استانداردهای شناسایی ویدیو و صدای تولید شده توسط هوش مصنوعی به اندازه کافی کارآمد و به‌روز نیست.

متا با گروه هایی مانند Partnership on AI همکاری می‌کند تا ابتکاراتی در زمینه اصالت محتوای ایجاد شده را اعمال کند. شرکت آدوبی اخیراً سیستم اعتبارسنجی محتوا یا Content Credentials را منتشر کرده است که اطلاعات منشأ محتوا را در فراداده تصاویر قرار می دهد.

کلگ افزود که متا به زودی از کاربرانش درخواست خواهد کرد برچسب‌گذاری برای پست‌های ویدیویی یا صوتی ساخته شده با هوش مصنوعی را آغاز کنند. درصورتی که کاربران این خواسته را نادیده بگیرند، شامل اعمال مجازاتی از اخطار تا حذف پست‌های متخلف می‌شوند.