اروپا گام بزرگ دیگری به سوی توافق بر سر قوانین هوش مصنوعی برمی دارد

پارلمان اروپا به تایید ماموریت مذاکره خود برای قانون هوش مصنوعی رای داده است – که نقطه عطفی است که مرحله بعدی مذاکرات را به سمت کتاب قوانین سراسر اتحادیه اروپا برای هوش مصنوعی باز می کند.

نمایندگان پارلمان از نسخه اصلاح شده پیشنهاد کمیسیون حمایت کردند که کتاب قوانین را به گونه ای گسترش می دهد که به گفته آنها هدف از این کار این است که هوش مصنوعی توسعه یافته و مورد استفاده در اروپا “کاملاً مطابق با حقوق و ارزش های اتحادیه اروپا از جمله نظارت انسانی، ایمنی، حریم خصوصی، شفافیت باشد. ، عدم تبعیض و رفاه اجتماعی و زیست محیطی».

از جمله تغییراتی که نمایندگان پارلمان اروپا از آن حمایت کرده‌اند، ممنوعیت کامل نظارت بیومتریک از راه دور و پلیس پیش‌بینی است. آنها همچنین ممنوعیتی برای «خراش دادن بدون هدف از تصاویر صورت از اینترنت یا فیلم‌های دوربین مدار بسته برای ایجاد پایگاه‌های اطلاعاتی تشخیص چهره» اضافه کرده‌اند – بنابراین اساساً یک ممنوعیت سخت برای Clearview AI و امثال آن.

ممنوعیت پیشنهادی نظارت بیومتریک از راه دور در مورد کاربردهای فناوری‌هایی مانند تشخیص چهره به‌صورت بلادرنگ یا پست (بعد از واقعیت) اعمال می‌شود، به جز، در مورد دوم، برای اجرای قانون برای تعقیب جرایم جدی با آه قضایی.

نمایندگان پارلمان اروپا همچنین ممنوعیت استفاده از فناوری تشخیص احساسات را که توسط مجریان قانون، آژانس های مرزی، محل کار و موسسات آموزشی استفاده می شود، اضافه کردند.

نمایندگان مجلس همچنین طبقه بندی سیستم های هوش مصنوعی پرخطر را گسترش دادند تا سیستم هایی را که آسیب قابل توجهی به سلامت، ایمنی، حقوق اساسی یا محیط زیست افراد وارد می کنند، و همچنین سیستم های هوش مصنوعی که برای تأثیرگذاری بر رأی دهندگان و نتیجه انتخابات استفاده می شوند، بسط دادند.

پلتفرم‌های رسانه‌های اجتماعی بزرگ‌تر که از الگوریتم‌هایی برای توصیه محتوا استفاده می‌کنند نیز توسط نمایندگان پارلمان اروپا به فهرست پرخطر اضافه شدند.

رای گیری عمومی پس از حمایت کمیته از پیشنهاد اصلاح شده در ماه گذشته صورت می گیرد، پس از آن که نمایندگان پارلمان اروپا از گروه های سیاسی مختلف نحوه اصلاح متن کمیسیون را به هم زدند، از جمله با افزودن تعهداتی به سازندگان به اصطلاح هوش مصنوعی.

در پاسخ به پیشرفت‌های سریع در هوش مصنوعی مولد، نمایندگان پارلمان اروپا از قرار دادن مجموعه‌ای از تعهدات بر روی مدل‌های هوش مصنوعی با هدف عمومی، مانند فناوری که زیربنای ربات چت هوش مصنوعی OpenAI ChatGPT است، حمایت کرده‌اند، که نیازمند این است که چنین سیستم‌هایی باید خطرات را قبل از قرار گرفتن در آن شناسایی و کاهش دهند. بازار، و همچنین اعمال افشای شفافیت برای محتوای تولید شده توسط هوش مصنوعی و اجرای اقدامات حفاظتی در برابر تولید محتوای غیرقانونی.

سازندگان هوش مصنوعی با هدف عمومی نیز باید «خلاصه‌های تفصیلی» اطلاعات دارای حق نسخه‌برداری را که برای آموزش مدل‌هایشان بر اساس پیشنهاد نمایندگان پارلمان استفاده می‌شود، منتشر کنند.

سام آلتمن، مدیر عامل OpenAI در ماه گذشته طی سفری به پایتخت های اروپایی برای دیدار با قانونگذاران از این جنبه از پیشنهاد اتحادیه اروپا انتقاد کرد. او به خبرنگاران گفت که امیدوار است این تعهدات لغو شود.

در این صورت، رای گیری عمومی امروز، حمایت قاطع نمایندگان را از نسخه اصلاح شده پیش نویس قانون – از جمله تعهدات پیشنهادی برای هوش مصنوعی – با 499 رای موافق و تنها 28 رای مخالف (به علاوه 93 رای ممتنع) نشان می دهد.

رأی گیری برای تصویب این مأموریت به این معنی است که مذاکرات بین پارلمان و دولت های کشورهای عضو اتحادیه اروپا اکنون می تواند آغاز شود – در حالی که اولین جلسه سه گانه قرار است امروز عصر برگزار شود.

براندو بنیفی، گزارشگر مشترک، پس از رای گیری در بیانیه ای اظهار داشت:

امروز همه نگاه ها به ما دوخته شده است. در حالی که شرکت‌های بزرگ فناوری زنگ خطر را در مورد خلاقیت‌های خود به صدا در می‌آورند، اروپا پیش رفته و پاسخی ملموس به خطراتی که هوش مصنوعی شروع به ایجاد کرده است، پیشنهاد داده است. ما می خواهیم از پتانسیل مثبت هوش مصنوعی برای خلاقیت و بهره وری استفاده شود، اما همچنین برای محافظت از موقعیت خود و مقابله با خطرات برای دموکراسی ها و آزادی های خود در طول مذاکرات با شورا مبارزه خواهیم کرد.

در بیانیه حمایتی دیگری، دراگوس تودوراچه، گزارشگر همکار افزود:

قانون هوش مصنوعی لحن جهانی را در توسعه و مدیریت هوش مصنوعی تعیین می‌کند و تضمین می‌کند که این فناوری، که قرار است جوامع ما را از طریق مزایای گسترده‌ای که می‌تواند ارائه دهد، به‌طور بنیادی متحول کند، تکامل یابد و مطابق با ارزش‌های اروپایی دموکراسی استفاده شود. حقوق و حاکمیت قانون.

نسخه قانون هوش مصنوعی که امروز نمایندگان پارلمان اروپا از آن حمایت کرده‌اند، معافیت‌هایی را برای فعالیت‌های تحقیقاتی و مؤلفه‌های هوش مصنوعی ارائه شده تحت مجوزهای منبع باز اضافه می‌کند، که نمایندگان پارلمان اروپا پیشنهاد می‌کنند که پشتیبانی از نوآوری را تضمین می‌کند – همراه با جعبه‌های ایمنی نظارتی برای سیستم‌های آزمایشی که قرار است تحت این چارچوب ایجاد شود.

پیشنهاد نمایندگان پارلمان اروپا همچنین مجموعه‌ای از حقوق مصرف‌کننده را بر تصمیم‌گیری هوش مصنوعی اضافه می‌کند – از جمله توانایی مصرف‌کنندگان برای درخواست جبران خسارت جمعی اگر سیستم هوش مصنوعی به آنها آسیب رسانده است.

انجمن مصرف کنندگان اروپا، BEUC، از این تغییرات استقبال کرد، اما از پارلمان به دلیل عدم حمایت از ممنوعیت کامل استفاده از هوش مصنوعی تشخیص عاطفی انتقاد کرد (زیرا این پیشنهاد استفاده تجاری از چنین روغن مار را محدود نمی کند).

همچنین فکر می‌کند که نمایندگان پارلمان اروپا به توسعه‌دهندگان اختیار زیادی داده‌اند تا تصمیم بگیرند که آیا سیستم‌هایشان در رده‌های پرخطر قرار می‌گیرند یا نه، که می‌تواند کارایی چارچوب مبتنی بر ریسک را تضعیف کند.

این ممکن است در طول بحث های سه گانه که نیاز به سازش بین موضع شورای اتحادیه اروپا است، که نهادی متشکل از دولت های کشورهای عضو است، و قانونگذاران در پارلمان به منظور دستیابی به توافق سیاسی لازم در مورد نهایی، یک نقطه اختلاف را ثابت کند. فایل را بنویسید و مهر و موم کنید.

به طور معمول، شورای اتحادیه اروپا یک خط حمایت از صنعت را اتخاذ می کند در حالی که پارلمان تمایل بیشتری به حقوق اساسی دارد. بنابراین، جایی که دو طرف در وسط تنظیم هوش مصنوعی با هم ملاقات خواهند کرد، باید دید. اگر آنها نتوانند به توافق برسند، روند قانونگذاری ممکن است متوقف شود یا حتی شکست بخورد. اما در بروکسل انگیزه‌ای وجود دارد که این پرونده را با توجه به میزان توجه جهانی به تنظیم هوش مصنوعی معطوف کرده است.

شورا در ماه دسامبر موضع خود را در مورد این پرونده اتخاذ کرد. در آن زمان، کشورهای عضو تا حد زیادی از تعویق آنچه که باید در مورد هوش مصنوعی با هدف عمومی انجام شود – به قوانین اجرایی اضافی – ترجیح دادند، اما با توجه به آنچه در این میان اتفاق افتاد، ابزارهای هوش مصنوعی مولد مانند عکسبرداری ChatGPT در مرکز بحث در مورد فناوری و ایجاد تماس های متعدد برای مقررات (از جمله بسیاری از انواع صنعت فناوری خود) – جالب است که ببینیم آیا کشورهای عضو در مورد نیاز به اضافه کردن تعهدات برای این دسته از سیستم‌های هوش مصنوعی به متن قانون هوش مصنوعی توافق خواهند کرد.

مدیر اجرایی اتحادیه اروپا در آوریل 2021 پیشنهاد اصلی را برای چارچوب مبتنی بر ریسک برای هوش مصنوعی ارائه کرد. در حالی که اولین متن پیش نویس کمیسیون چندان با موضوع هوش مصنوعی با هدف عمومی دست و پنجه نرم نمی کرد، مقررات شفافیت را برای چت بات ها و فناوری دیپ جعلی پیشنهاد کرد. بنابراین حتی در آن زمان قانونگذاران اتحادیه اروپا این دیدگاه را داشتند که مصرف کنندگان باید مطلع شوند که در حال تعامل با محتوای تولید شده توسط ماشین هستند.

در حالی که کمیسیون امیدوار است مذاکرات سه گانه در مورد پرونده قانون هوش مصنوعی تا پایان سال جاری به توافق سیاسی برسد، هنوز یک دوره اجرایی قبل از اعمال قانون وجود دارد – احتمالاً نه قبل از سال 2026. به همین دلیل است که اتحادیه اروپا نیز روی داوطلبانه کار می کند. ابتکاراتی که هدف آن تحت فشار قرار دادن شرکت‌های هوش مصنوعی برای تنظیم ایمنی در این میان است.