ایتنا - کیو-استار(Q*) هوش مصنوعی جدیدی است که این روزها خبرساز شده و گفته می‌شود می‌تواند حیات بشر را تهدید ‌کند اما این هوش مصنوعی جدید چیست و چرا ظهور آن باعث نگرانی شده است؟

خبر اخراج و استخدام مجدد سم آلتمن از شرکت فناوری اُپن‌ ای‌آی‌ بسیار خبرساز بوده است و همراه با اخبار آلتمن، اخباری مبنی بر ظهور هوش مصنوعی جدیدی موسوم به *Q با تلفظ کیو-استار منتشر شد که گفته می‌شود دلیل اخراج آلتمن بوده و می‌تواند تهدید کننده بشریت باشد.

پروژه کیو-استار در جامعه هوش مصنوعی موج‌هایی ایجاد کرده است. همانطور که پیش‌تر اشاره شد، همه چیز با اخراج سم آلتمن توسط هیئت مدیره شرکت اُپن ای‌آی متشکل از آدام دی آنجلو، توشا مک کاولی، ایلیا سوتسکور و هلن تونر آغاز شد. پس از آن، مایکروسافت به آلتمن شغلی را برای سرپرستی تیم تحقیقاتی جدید یک هوش مصنوعی پیشرفته پیشنهاد داد.

در همین حال، نزدیک به ۷۰۰ کارمند از ۷۷۰ کارمند شرکت اُپن ای‌آی نامه‌ای سرگشاده نوشتند و در آن به آلتمن قول وفاداری دادند و تهدید کردند که در صورت عدم انحلال هیئت مدیره و عدم بازگشت آلتمن به اُپن‌ ای‌آی این شرکت را ترک کرده و به مایکروسافت می‌پیوندند.

تبعید چهار روزه آلتمن به گمانه‌زنی‌های متعددی در مورد علت اخراج او منجر شد. از اختلاف نظر با اعضای هیئت مدیره بر سر محصولات گرفته تا عدم برقراری ارتباط مداوم و تفاوت در مورد ایمنی هوش مصنوعی.

در حالی که همه این روایت‌ها در فضاهای مختلف پخش می‌شدند، گزارش شد که چندین پژوهشگر از کارکنان اُپن ای‌آی به هیئت مدیره درباره کشف یک هوش مصنوعی قدرتمند که به طور بالقوه می‌تواند حیات بشریت را تهدید کند، نامه نوشته بودند.

و به دنبال آن نگاه‌ها به سوی این مدل مرموز هوش مصنوعی معطوف شد که می‌توانست منشا این هرج و مرج در اُپن‌ ای‌آی باشد. لازم به ذکر است که در مورد دریافت این نامه ابهاماتی وجود دارد. برای مثال پایگاه خبری ورج(The Verge) گزارش داده است که چندین منبع آگاه، دریافت آن نامه توسط هیئت مدیره را تکذیب کرده‌اند.

با این وجود براساس گزارشی از اینفورمیشن(The Information)، اوایل سال جاری گروهی به رهبری دانشمند ارشد اُپن ای‌آی به نام ایلیا سوتسکور به پیشرفتی در زمینه هوش مصنوعی دست یافتند که در ادامه به آنها این امکان را داد که مدل جدیدی از هوش مصنوعی به نام کیو-استار بسازند. براساس گزارش‌ها این مدل جدید می‌تواند مسائل اساسی ریاضی را حل کند. این پیشرفت باعث نگرانی در میان کارکنان شده است. آنها احساس می‌کردند که شرکت هوش مصنوعی اُپن ای‌آی ایمنی و حفاظت کافی برای «تجاری‌سازی» چنین مدل پیشرفته‌ای را ندارد.

وقت آن رسیده که با کیو-استار بیشتر آشنا شویم.

کیو-استار در واقع الگوریتمی است که به تنهایی قادر به حل مسائل ریاضی پایه است و حتی می‌تواند مسائلی که بخشی از داده‌های آموزشی آن نبوده‌اند را نیز حل کند.

این یک جهش قابل توجه به سمت هوش جامع مصنوعی یا هوش عمومی مصنوعی(AGI) به حساب می‌آید. هوش جامع مصنوعی از هوش مصنوعی‌های کنونی پیشرفته‌تر است. مدل‌های کنونی قادر به تولید متن و تصویر هستند اما هوش جامع مصنوعی می‌تواند هر کاری که یک انسان قادر به انجام آن است را انجام دهد. این هوش مصنوعی قادر به درک مفاهیم بوده، مسائل پیچیده را حل می‌کند، خلاق است و با محیط تعامل دارد. این هوش مصنوعی مانند مغز انسان از داده‌ها برای یادگیری و تصمیم‌گیری استفاده می‌کند. اشتباه می‌کند و از اشتباهاتش درس می‌گیرد. گفته می‌شود که سوتسکور پیشرفتی در این زمینه کسب کرده و به این نوع از هوش مصنوعی دست یافته است. مدل کیو-استار نیز به عنوان محصول این پیشرفت قابلیت استدلالی پیشرفته‌ای مشابه انسان نشان داده است. براساس گزارش‌ها این پیشرفت بخشی از یک نوآوری بزرگ‌تر توسط گروهی از دانشمندان هوش مصنوعی با ادغام گروه‌های Code Gen ،Math Gen در اُپن ای‌آی است. تمرکز این گروه بر افزایش قابلیت‌های استدلال هوش مصنوعی در کارهای علمی بوده است.

گزارش‌ها نشان می‌دهد که کیو-استار می‌تواند ریاضیات را در سطح دانش‌آموزان ابتدایی انجام دهد. این دستاورد هر چند کوچک محققان را نسبت به آینده هوش جامع مصنوعی امیدوار کرده است.

ریاضی به عنوان مرزی برای توسعه هوش مصنوعی مولد در نظر گرفته می‌شود. هوش‌های مصنوعی مولد کنونی در نوشتن، ترجمه و پیش‌بینی آماری کلمه بعدی قابلیت‌ بالایی دارند با این حال توانایی انجام ریاضیات وقتی تنها یک پاسخ درست وجود دارد نشان می‌دهد که هوش مصنوعی توانایی استدلال بیشتری نزدیک به هوش انسانی پیدا کرده است.

برخلاف ماشین حساب که می‌تواند تعداد معدودی از عملیات‌های ریاضی را انجام دهد، هوش جامع مصنوعی می‌تواند یاد بگیرد و موارد مختلف را به هم تعمیم دهد. این یک گام رو به جلو در زمینه هوش مصنوعی است. به گفته یک منبع آگاه، اگرچه انجام ریاضیات در سطح دانش‌آموزان مقطع ابتدایی دستاوری است که به دست آمده اما محققان نسبت به موفقیت کیو-استار در آینده خوش‌بین هستند.

یک هوش مصنوعی با قابلیت حل مسائل ریاضی شاید چندان ترسناک به نظر نرسد پس چرا این پیشرفت جدید باعث نگرانی جوامع علمی شده تا اندازه‌ای که آن را تهدید کننده حیات بشریت می‌خوانند؟

براساس گزارش‌ها، نامه محققان، نگرانی‌های مربوط به توانایی بالقوه این سیستم در تسریع پیشرفت علمی را تشریح کرده و همزمان کفایت اقدامات ایمنی به کار برده شده توسط اُپن‌ ای‌آی را زیر سوال برده است. براساس گزارش رویترز ظاهرا این مدل جدید از هوش مصنوعی اعتراض داخلی را برانگیخته و کارکنان اعلام کردند که می‌تواند تهدید کننده بشریت باشد.

به گفته یک منبع آگاه، این پیشرفت به طور بالقوه امکان ایجاد مدل‌های هوش مصنوعی بسیار قوی‌تر را فراهم می‌کند. اعتقاد بر این است که این هشدار یکی از دلایل اخراج آلتمن نیز بوده است. آلتمن در سخنرانی خود در اجلاس همکاری اقتصادی آسیا و اقیانوسیه به آن اشاره کرده بود.
 

چرا باید نگران پیشرفت کیو-استار باشیم؟