ايتنا - اقدام تامل‌برانگیز OpenAI در انتشار عمومی GPT2

کنسرسیوم هوش مصنوعی OpenAI در اقدامی غیرقابل پیش‌بینی، در جعبه پاندروایی را باز کرده که قبلا سوگند خورده بود چنین کاری نخواهد کرد!

به گزارش ایتنا از رایورز به نقل از اینکوایرر، GPT2 یک ابزار هوش مصنوعی است که اخبار جعلی را به شکلی باورپذیر می‌نویسد، اقدامی که ورود آن به حوزه عمومی خطرناک لحاظ می‌شده است.
این ابزار در اصل برای اهداف بی‌خطر طراحی شده بود؛ در واقع، Auntie Beeb از یک ابزار مشابه با آن (ولی کمتر پیشرفته) در شب انتخابات عمومی برای تسریع گزارش‌دهی در باره اعلامیه‌های حوزه‌های انتخابیه استفاده خواهد کرد.

علاوه بر این، ممکن است مطلع باشید که GPT2 در برخی از آزمایش‌های AI جینل شین [نویسنده طنزپرداز حوزه هوش مصنوعی] مورد استفاده قرار گرفته است.
مشکل اینجاست که قابلیت‌های آن بیش از حد مد نظر است، به طوری که می‌تواند آن نوع از اخباری را تولید کند که بسیاری کشورها را در سال‌های اخیر با مشکل و چالش مواجه کرده‌اند.

تاکنون فقط ورژن‌های محدودی از GPT-2 به صورت عمومی قابل دسترسی بوده‌اند، در حالی که OpenAI به دقت نحوه مورد استفاده قرار گرفتن میزان موفقیت آنها را زیر نظر داشته است.

با این حال، این شرکت در یک پست بلاگش اعلام کرده که هیچ شواهد واقعی از مورد سوءاستفاده قرار گرفتن این ابزار نیافته است: «...ما هیچ شواهدی از نوشتن کد، مستندات، یا موارد سوءاستفاده را مشاهده نکرده‌ایم. به نظر ما احتمال زیادی وجود دارد که متن‌سازهای سنتزی، در صورتی که خروجی‌هایشان قابل اتکاتر و منسجم‌تر شود، مورد سوءاستفاده قرار بگیرند.»

هر کسی که از دنیای اساطیر مطلع باشد، می‌داند که به محض اینکه جعبه پاندورا [بنا بر افسانه‌های یونانی: جعبه‌ای با محتوای تمامی بلاها و شوربختی‌های ناشناخته بشریت] باز شود، بستن مجدد درب آن بسیار دشوار خواهد بود.

این واقعیت مورد پذیرش قرار گرفته است که تشخیص یک خبر نوشته شده توسط GPT-2 «چالش‌آفرین» است، و همچنین اینکه امکان دستکاری و دقیق‌ترسازی آن وجود دارد که می‌تواند منتج به مشکلاتی شود که در برخی اتفاقات (مانند انتخابات اخیر آمریکا و انگلیس) شاهد آن بودیم.