ایتنا - متا در زمانی که BlenderBot 3 را به روی افراد مقیم آمریکا باز کرد هشدار داده بود که چت‌باتش ممکن است بات بودن خود را "فراموش" کند و ممکن است «چیزهایی را بگوید که به آنها افتخار نمی‌کنیم».
سه شنبه ۸ شهريور ۱۴۰۱ ساعت ۰۲:۰۰
گوگل چتبات AI آزمایشی خود را برای تست در دسترس عموم قرار می‌دهد
به گزارش ایتنا و به نقل از زددی‌نت، گوگل در ماه مه عرضه AI Test Kitchen و همچنین ورژن دوم LaMDA (مدل زبان برای کاربردهای دیالوگی) را اعلام کرد، و اکنون امکان تست بخش‌های تست آنچه معتقد است که آینده تعامل انسان-کامپیوتر خواهد بود را برای عموم فراهم آورده است.
ساندای پیچای مدیرعامل گوگل در آن زمان گفت که: « AI Test Kitchenقرار است حسی از اینکه اگر LaMDA را در اختیار داشته باشید چگونه خواهد بود در اختیار شما قرار دهد».
AI Test Kitchen بخشی از طرح گوگل به منظور کسب اطمینان از توسعه تکنولوژیش با ایمنی مناسب است. همه می‌توانند به لیست انتظار برای AI Test Kitchen بپیوندند. ابتدائاً، این برای گروه‌های کوچک در آمریکا قابل دسترسی خواهد بود. اپ اندرویدی آن اکنون قابل دسترسی است، در حالی که اپ iOS «در چند هفته آتی» آماده خواهد شد.
در زمان ثبت‌نام در آن، کاربر باید با چند چیز موافقت کند، از جمله «من هیچ اطلاعات شخصی را درباره خودم یا دیگران در تعاملاتم با این دموها نخواهم گنجاند».
گوگل همچنین هشدار داده است که، به شکلی مشابه با پیشنمایش عمومی اخیر مدل چتبات AI متا موسوم به BlenderBot 3، پیشنمایش‌های اولیه LaMDA «ممکن است محتوای غیردقیق یا نامناسبی را نمایش دهند».
متا در زمانی که BlenderBot 3 را به روی افراد مقیم آمریکا باز کرد هشدار داده بود که چت‌باتش ممکن است بات بودن خود را "فراموش" کند و ممکن است «چیزهایی را بگوید که به آنها افتخار نمی‌کنیم».
این دو شرکت اذعان نموده‌اند که AI آنها گهگاه ممکن است رفتارهای سیاسی نادرستی از خود بروز دهد، همانگونه که از چتبات Tay مایکروسافت در سال 2016 پس از آن مشاهده شد که عموم به آن ورودی‌های نامناسبی تزریق کردند. و، مانند متا، گوگل می‌گوید که بر روی LaMDA «بهبودهای ایمنی کلیدی» انجام شده است تا از دادن پاسخ‌های موهن و نادقیق اجتناب شود.
کد مطلب: 69560
