ایتنا - یک کارشناس ادعا میکند هیچ مدرکی وجود ندارد که اثبات کند مهار و ایمنسازی هوش مصنوعی ممکن است.
هشدار یک کارشناس رایانه:
هوش مصنوعی مهارناپذیر است
27 بهمن 1402 ساعت 6:06
ایتنا - یک کارشناس ادعا میکند هیچ مدرکی وجود ندارد که اثبات کند مهار و ایمنسازی هوش مصنوعی ممکن است.
رومن وی یامپولسکی، یک دانشمند کامپیوتر روس از دانشگاه لوییویل، گفت که حتی کنترلهای جزئی هم برای محافظت از ما در برابر جامعهای که هوش مصنوعی در حال تغییر دادن آن است، کفایت نمیکند.
دکتر یامپولسکی گفت به منظور اطمینان از اینکه هوش مصنوعی ما را به مخاطره نمیاندازد، هیچ گزینهای نباید از روی میز حذف شود.
او گفت بعد از بررسی دقیق متون علمی موجود، که بهزودی در قالب کتاب منتشر میشود، به این نتیجه رسیده است.
دکتر یامپولسکی در بیانیهای گفت: «ما با رویدادی تقریبا حتمی مواجهیم که احتمال دارد فاجعهای وجودی پدید آورد. بیدلیل نیست که خیلیها این را مهمترین مشکل بشریت تا به امروز قلمداد میکنند.»
«نتیجه این رویداد میتواند شکوفایی یا انقراض باشد و سرنوشت جهان به تعادل وابسته است.»
پژوهشهای مربوط به آن کتابــ هوش مصنوعی (AI): توضیحناپذیر، پیشبینیناپذیر، مهارناپذیرــ نشان داد که «هیچ مدرک» و «هیچ دلیلی» وجود ندارد که نشان دهد میتوان مشکل هوش مصنوعی مهارناپذیر را واقعا حل کرد.
او میگوید از آنجا که به نظر میرسد مهار کامل هیچ هوش مصنوعی میسر نیست، مهم است که «برای ایمنی در مقابل هوش مصنوعی تلاشی چشمگیر» صورت بگیرد تا مطمئن شویم در حد امکان امن است.
اما حتی در این صورت، ممکن است محافظت از جهان در برابر آن مخاطرات ممکن نباشد: چرا که با افزایش توانایی هوش مصنوعی، فرصتهای بیشتری برای نقص ایمنی پدید میآید، بنابراین امکان محافظت در برابر هر خطری امکانپذیر نخواهد بود.
کد مطلب: 77358
آدرس مطلب: https://www.itna.ir/news/77358/هوش-مصنوعی-مهارناپذیر