ايتنا - اپ آمریکایی متهم به استفاده از هوش مصنوعی برای تولید اخبار جعلی شد

به گزارش رویترز، یک اپ خبری رایگان محبوب در ایالات‌متحده به نام NewsBreak از سال 2021 اخبار ساختگی نوشته شده توسط هوش مصنوعی را منتشر کرده است.

به گزارش ایتنا و به نقل از انگجت، این اپ محتوای دارای مجوز (لایسنس) را از منابع خبری معتبر مانند CNN، AP و رویترز منتشر می‌کند، اما از ابزارهای هوش مصنوعی نیز برای بازنویسی بیانیه‌های مطبوعاتی و اخبار محلی استفاده می‌نماید. یکی از فاحش‌ترین نمونه‌های یک خبر کذب منتشرشده توسط NewsBreak در شب کریسمس سال گذشته دیده شد، که در آن این اپ مدعی شد که تیراندازی در شهر بریجتون ایالت نیوجرسی رخ داده است، در حالی که چنین حادثه‌ای رخ نداده بود.

اداره پلیس نیوجرسی ادعاهای مطرح شده در مطلب را رد کرد، و پس از آن خود این اپ، که گفته بود این اطلاعات را از وب‌سایت دیگری دریافت کرده، چهار روز بعد آن را حذف نمود. در ماه‌های ژانویه، فوریه و مارس، یک بانک مواد غذایی مستقر در کلرادو به رویترز گفت که ناچار به متفرق کردن مردمی شده بود که به دلیل انتشار زمان نادرستی توسط NewsBreak برای توزیع غذا به آنجا مراجعه کرد بودند. همچنین این موسسه هنگامی که از این گزارش نادرست به نیوزبریک شکایت کرد، هیچ پاسخی از سوی این شرکت دریافت نکرد.

یکی دیگر از مؤسسات خیریه در پنسیلوانیا گفت که NewsBreak گزارشی را دو بار منتشر کرد که در آن مدعی شده بود این موسسه یک کلینیک 24 ساعته foot-care برای افراد بی‌خانمان برقرار کرده است، در حالی که اینطور نبود. این اپلیکیشن پس از اطلاع‌رسانی رویترز، تمام اخبار کذب مربوط به این خیریه‌ها را حذف کرد. و در ماه مارس، هشداری را در صفحه اصلی خود اضافه کرد که گویای آن بود که محتوای آن ممکن است همیشه بدون خطا نباشد. جدا از انتشار داستان‌های اشتباه، NewsBreak ادعا می‌کند که مقالاتی را از وب‌سایت‌ها بدون اجازه کپی کرده و قبلاً پرونده‌های نقض کپی‌رایت را با حداقل دو نشریه حل و فصل کرده است.

رویترز NewsBreak را به عنوان «پربارگیری‌ترین اپ خبری ایالات‌متحده» توصیف کرده است. اگر قبلاً نام آن را نشنیده‌اید احتمالاً به این دلیل است که کاربران آن عمدتاً زنان بالای 45 سال هستند، که مدرک دانشگاهی ندارند و در حومه و روستاهای ایالات‌متحده زندگی می‌کنند. این اپ به کمک پست لینک‌هایش در شبکه‌های اجتماعی مانند فیس‌بوک شناخته شده است و وقتی کاربر روی یکی از این لینک‌ها کلیک می‌کند از وی خواسته می‌شود تا این اپ را دانلود کند.

نیوزبریک که فقط در ایالات متحده قابل دسترسی است، به عنوان یک شرکت تابعه از شرکت Yidian مستقر در چین که بخشی از آن متعلق به یک شرکت رسانه‌ای مرتبط با دولت چین است، در این کشور راه‌اندازی شد. ییدیان دیگر با این اپ ارتباط ندارد، اما یکی از سرمایه‌گذاران اصلی آن IDG Capital (یک شرکت مستقر در پکن که پنتاگون می‌گوید به ارتش چین وابسته است) می‌باشد.

حتی با وجود اینکه این اپ خود را به عنوان یک شرکت مستقر در ایالات‌متحده با سرمایه‌گذاران آمریکایی معرفی کند، اما کارمندان سابق به رویترز گفتند که مهندسان مستقر در چین NewsBreak بیشتر کار را روی الگوریتم‌های آن انجام می‌دهند. جف ژنگ، مدیرعامل NewsBreak به رویترز گفت که این اپ با قوانین اطلاعات و حریم خصوصی ایالات‌متحده مطابقت دارد و در سرورهای آمازون مستقر در ایالات‌متحده نگهداری می‌شود. ژنگ گفت کارکنان چینی آن فقط می‌توانند به داده‌های بدون افشای هویت ذخیره‌شده در آن سرورها دسترسی داشته باشند. شایان ذکر است که علیرغم ارتباط این اپ با چین، رویترز شواهدی مبنی بر اینکه NewsBreak مطالبی را منتشر کرده است که تصویری مثبت از دولت چین ارائه کرده باشد پیدا نکرد.