ایتنا - متا و اوپن ایآی هردو میکوشند برای برچسبگذاری تصاویری که هوش مصنوعی تولید کرده راههایی ایجاد کنند.
تلاش متا و اوپنایآی برای جلوگیری از جا زدن تصاویر جعلی هوش مصنوعی به عنوان واقعی
27 بهمن 1402 ساعت 2:06
ایتنا - متا و اوپن ایآی هردو میکوشند برای برچسبگذاری تصاویری که هوش مصنوعی تولید کرده راههایی ایجاد کنند.
این دو شرکت برچسبهای – پنهان یا به شکلی دیگر- را اضافه میکنند که باید به افراد امکان بدهد منبع تصویر یا سایر محتواها را ردیابی کند.
اوپن ایآی ویژگیهای جدید را به چت جیپیتی و دال-ای۳ (DALL-E3) [نسخه پیشرفته اوپن ایآی از هوش مصنوعی] میافزاید که برچسبی را در فراداده تصویر قرار میدهد که مشخص میکند با هوش مصنوعی ایجاد شده است. در این ویژگی از استاندارد سی۲پیای (C2PA) استفاده خواهد شد و هدفش این است که بتوان اطلاعات بیشتری درمورد نحوه ساخت تصاویر روی آنها قرار داد و شرکتهای دوربین و سایرینی که ابزارهایی برای تولید تصویر میسازند نیز آن را پذیرفتهاند.
اما اوپن ایآی اشاره کرد که این برچسب «چه بهصورت تصادفی یا عمدی بهسادگی حذف میشود» و بنابراین ضمانتی وجود ندارد. مثلا بیشتر سایتهای رسانههای اجتماعی آن ابرداده را حذف میکنند و میتوان با عکس گرفتن از صفحه آن را بهسادگی پاک کرد.
ابزارهای متا قرار است محتوای موجود در فیسبوک، اینستاگرام و تردز را که هوش مصنوعی تولید کرده شناسایی کرده و آنها را برچسبگذاری کنند.
این شرکت بزرگ رسانههای اجتماعی گفت که اکنون درحال ایجاد این قابلیت است و طی «ماههای پیش رو» و پیش از تعدادی از انتخاباتهای بزرگ جهانی در سال جاری آن را در سراسر بسترهای خود عرضه خواهد کرد.
کد مطلب: 77346
آدرس مطلب: https://www.itna.ir/news/77346/تلاش-متا-اوپن-ای-آی-جلوگیری-جا-زدن-تصاویر-جعلی-هوش-مصنوعی-عنوان-واقعی