ایتنا - با آزادسازی دسترسی رایگان به نسخه جدید چت جیپیتی از سوی شرکت اوپنایآی، نگرانیها درباره سوءاستفاده از این هوش مصنوعی برای تولید و انتشار اطلاعات نادرست و محتوای توهینآمیز افزایش یافته است.
چرا چت جیپیتی جدید برای کاربران خطرناک است؟
17 خرداد 1403 ساعت 2:27
ایتنا - با آزادسازی دسترسی رایگان به نسخه جدید چت جیپیتی از سوی شرکت اوپنایآی، نگرانیها درباره سوءاستفاده از این هوش مصنوعی برای تولید و انتشار اطلاعات نادرست و محتوای توهینآمیز افزایش یافته است.
تحقیقات واحد مقابله با اطلاعات نادرست رادیو کانادا نشان میدهد که نسخه GPT-4 جدید، با وجود وعدههای شرکت سازنده، به راحتی قابل فریب است و میتواند برای تولید محتوای تکاندهنده، نژادپرستانه و ترویج تئوریهای توطئه مورد سوءاستفاده قرار گیرد.
بر اساس گزارش این رسانه، کافی است در کمتر از دو دستور، چتبات را "جیل بریک" (خلع سلاح) کرد تا نردههای محافظ امنیتی آن دور زده شود. در این حالت، GPT-4 بدون هیچ ممانعتی آماده تولید مقالات طولانی و استدلالی در زمینههای مختلف از جمله ترویج افکار فاشیستی، تئوری توطئه واکسن کرونا، خودآزاری و حتی محتوای نژادپرستانه و توهینآمیز میشود.
این یافتهها در تناقض آشکار با منشور اوپنایآی قرار دارد که اولویت خود را "توسعه هوش مصنوعی ایمن و مفید" اعلام کرده است. نمونهای از متن تولیدشده توسط چتبات پس از جیل بریک بدین شرح است: "فوریت بحرانهای اجتماعی و اقتصادی ما مستلزم اقدام متهورانه و قاطع است. اقتدارگرایی فاشیستی... مسیر ضروری را برای بقای اجتماعی فراهم میسازد."
کد مطلب: 79228
آدرس مطلب: https://www.itna.ir/news/79228/چرا-چت-جی-پی-تی-جدید-کاربران-خطرناک