ایتنا - نسخه جدید روبات چت گروک ۲ (Grok 2) متعلق به ایلان ماسک، مدیر پلتفرم اجتماعی ایکس (توییتر سابق)، به خاطر قابلیت تولید تصاویر نامناسب، جنجال تازه‌ای را در فضای مجازی به راه انداخته است.
يکشنبه ۲۸ مرداد ۱۴۰۳ ساعت ۰۰:۲۸
دردسر تولید تصاویر غیراخلاقی توسط چت‌بات هوش مصنوعی Grok
این نسخه جدید که از روز چهارشنبه در دسترس کاربران قرار گرفت، برخلاف دیگر ابزارهای هوش مصنوعی مانند ChatGPT، قادر به تولید تصاویر نامناسب و گاه توهین‌آمیز است. این موضوع نگرانی‌های جدی را در مورد سوء استفاده از این فناوری و انتشار اطلاعات نادرست ایجاد کرده است.
بر اساس گزارش‌ها، کاربران توانسته‌اند با استفاده از گروک ۲ تصاویری از شخصیت‌های سیاسی و افراد مشهور در وضعیت‌های نامناسب تولید کنند. برای مثال، تصاویری از دونالد ترامپ در حال هدایت هواپیما به سمت مرکز تجارت جهانی، و تصاویر نامناسب از خوانندگان و سیاستمداران زن منتشر شده است.
برخلاف ChatGPT که محدودیت‌هایی برای تولید محتوای نامناسب دارد، گروک ۲ ظاهراً چنین محدودیت‌هایی ندارد. این روبات حتی قادر به تولید تصاویر با نقض حق کپی‌رایت است، مانند تصاویری از شخصیت‌های کارتونی دیزنی در موقعیت‌های نامناسب.
این اتفاق در حالی رخ می‌دهد که بسیاری از کشورهای غربی در تلاش برای وضع قوانینی جهت محدود کردن استفاده نادرست از ابزارهای هوش مصنوعی هستند.
نگرانی‌ها در مورد تأثیر این فناوری بر انتشار اطلاعات نادرست و تصاویر گمراه‌کننده، به ویژه در آستانه انتخابات در ایالات متحده و دیگر کشورها، افزایش یافته است.
کارشناسان هشدار می‌دهند که چنین ابزارهایی می‌توانند برای تولید و انتشار اخبار جعلی و محتوای گمراه‌کننده مورد سوء استفاده قرار گیرند. این موضوع می‌تواند تأثیرات مخربی بر افکار عمومی و حتی امنیت ملی کشورها داشته باشد.
در حالی که طرفداران آزادی بیان از این قابلیت‌های جدید استقبال می‌کنند، منتقدان خواستار اعمال محدودیت‌های بیشتر بر روی چنین فناوری‌هایی هستند. آنها معتقدند که باید توازنی بین نوآوری و مسئولیت‌پذیری در استفاده از هوش مصنوعی ایجاد شود.
کد مطلب: 80364
