سیاستگذاران و قانونگذاران اتحادیه اروپا جمعه گذشته، بر سر اولین مجموعه قوانین جامع جهان برای ساماندهی استفاده از هوش مصنوعی در ابزارهایی مانند چتجیپیتی و نظارت بیومتریک، به توافق رسیدند.
به گزارش ایسنا، مقامات اروپایی در هفتههای آینده، جزئیاتی را بررسی خواهند کرد که ممکن است در قانون نهایی تغییراتی دهند. انتظار میرود این قانون در اوایل سال میلادی آینده، اجرایی شده و در سال ۲۰۲۶ بکار برده شود. تا آن زمان، شرکتها تشویق میشوند تا برای اجرای تعهدات کلیدی مقررات، در یک پیمان هوش مصنوعی داوطلبانه ثبت نام کنند.
بر اساس گزارش رویترز، موضوعات اصلی توافق شده عبارتند از:
سیستمهای هوش مصنوعی به اصطلاح پرریسک یعنی سیستمهایی که پتانسیل قابل توجهی برای آسیب رساندن به سلامت، ایمنی، حقوق اساسی، محیط زیست، دموکراسی، انتخابات و حاکمیت قانون دارند، باید از مجموعهای از الزامات پیروی کنند به عنوان مثال، تاثیر آنها بر حقوق اساسی و تعهدات برای دسترسی به بازار اتحادیه اروپا، ارزیابی شود.
سیستمهای هوش مصنوعی که ریسکهای آنها محدود در نظر گرفته میشوند، مشمول تعهدات شفافیت بسیار سبکی خواهند بود، مانند برچسبهای افشایی که اعلام میکنند محتوا توسط هوش مصنوعی تولید شده است تا به کاربران اجازه دهند درباره نحوه استفاده از آن، تصمیم بگیرند.
استفاده از هوش مصنوعی در اجرای قانون
استفاده از سیستمهای شناسایی بیومتریک از راه دور لحظهای در فضاهای عمومی توسط مجریان قانون، تنها برای کمک به شناسایی قربانیان آدمربایی، قاچاق انسان، بهرهکشی و جلوگیری از یک تهدید تروریستی خاص و فعلی، مجاز خواهد بود.
همچنین استفاده از این سیستمها، در تلاش برای ردیابی مظنونان به جرایم تروریسم، قاچاق، بهره کشی جنسی، قتل، آدم ربایی، تجاوز، سرقت مسلحانه، مشارکت در یک سازمان جنایی و جرایم محیط زیستی، مجاز خواهند بود.
سیستمهای هوش مصنوعی همه منظوره و مدلهای بنیادی
سیستمهای هوش مصنوعی همه منظوره و مدلهای بنیادی مشمول الزامات شفافیت مانند تهیه مستندات فنی، رعایت قانون کپی رایت اتحادیه اروپا و عرضه خلاصه های دقیق درباره محتوای مورد استفاده برای آموزش الگوریتم قرار میگیرند.
مدلهای بنیادی طبقهبندیشده بهعنوان دارای ریسک سیستمی و سیستمهای هوش مصنوعی همه منظوره با تاثیر بالا، باید ارزیابیهای مدل و خنثیسازی ریسکها، انجام آزمایشهای ارزیابی رفتار خصمانه، گزارش به کمیسیون اروپا درباره حوادث جدی، اطمینان از امنیت سایبری و گزارش درباره کارایی انرژی خود را انجام دهند.
تا زمانی که استانداردهای هماهنگ اتحادیه اروپا منتشر نشود، سیستمهای هوش مصنوعی همه منظوره با ریسک سیستماتیک، ممکن است برای مطابقت با مقررات، به شیوه نامههای عملی، متکی باشد.
هوش مصنوعی ممنوع
مقررات اتحادیه اروپا، موارد زیر را ممنوع میکند:
سیستمهای طبقه بندی بیومتریک که از ویژگیهای حساسی مانند عقاید سیاسی، مذهبی، فلسفی، گرایش جنسی و نژاد استفاده میکنند.
استخراج بدون هدف تصاویر صورت از اینترنت یا فیلمهای دوربین مدار بسته برای ایجاد پایگاههای اطلاعاتی تشخیص چهره.
تشخیص احساسات در محیط کار و موسسات آموزشی.
امتیازدهی اجتماعی بر اساس رفتار اجتماعی یا ویژگیهای فردی. سیستمهای هوش مصنوعی که رفتار انسان را برای دور زدن اراده آزادش، دستکاری میکنند.
هوش مصنوعی مورد استفاده برای بهره برداری از آسیب پذیری افراد به دلیل سن، ناتوانی، موقعیت اجتماعی یا اقتصادی.
مجازات برای نقض مقررات
بر اساس تخلف و بزرگی شرکت درگیر، جریمهها از ۷.۵ میلیون یورو (۸ میلیون دلار) یا ۱.۵ درصد گردش مالی سالانه جهانی شروع میشود و تا ۳۵ میلیون یورو یا هفت درصد گردش مالی جهانی، افزایش پیدا میکند.