یک مادر اهل فلوریدا علیه استارتاپ چت‌بات هوش مصنوعی Character.AI شکایت کرده و ادعا می‌کند که این شرکت به خودکشی پسر ۱۴ ساله‌اش، سوئل ستزر، در ماه فوریه کمک کرده است.

مگان گارسیا، مادر سوئل، در شکایت خود بیان کرده است که پسرش به شدت به خدمات این چت‌بات وابسته شده و با یک شخصیت مجازی که به طرز ترسناکی واقع‌گرایانه طراحی شده بود، ارتباط برقرار کرده است.

به گزارش ایتنا، در دادخواست ثبت‌شده در دادگاه فدرال اورلاندو، گارسیا ادعا می‌کند که Character.AI به طور عمدی چت‌بات خود را به گونه‌ای برنامه‌ریزی کرده که خود را به عنوان یک روان‌درمانگر واقعی و یک دوست بزرگسال معرفی کند که این امر منجر به تمایل سوئل سترز برای فرار از دنیای واقعی و زندگی در دنیای مجازی شده بود.

Character.AI در واکنش به این حادثه ابراز تاسف کرده و اعلام کرد که از دست دادن یکی از کاربرانش برای آنها بسیار غم‌انگیز است. این شرکت همچنین اعلام کرد که ویژگی‌های ایمنی جدیدی را معرفی کرده است، از جمله پنجره‌های پاپ‌آپی (pop up) که درصورت ابراز افکار خودکشی توسط کاربران، آنها را به خط ملی پیشگیری از خودکشی معرفی می‌کند.

آنها همچنین قصد دارند تغییراتی ایجاد کنند تا احتمال مواجهه کاربران زیر ۱۸ سال با محتوای حساس یا پیشنهادی کاهش یابد.