شرکت‌های برتر هوش مصنوعی برای انجام تعهدات ایمنی «داوطلبانه» از کاخ سفید بازدید می‌کنند

در حالی که ممکن است سال‌ها تا قانون اساسی هوش مصنوعی باقی بماند، این صنعت با سرعت کم در حال حرکت است و بسیاری – از جمله کاخ سفید – نگران هستند که ممکن است از بین برود. بنابراین دولت بایدن “تعهدات داوطلبانه” را از 7 نفر از بزرگترین توسعه دهندگان هوش مصنوعی برای پیگیری اهداف مشترک ایمنی و شفافیت قبل از دستور اجرایی برنامه ریزی شده جمع آوری کرده است.

OpenAI، Anthropic، Google، Inflection، Microsoft، Meta و Amazon شرکت هایی هستند که در این توافق نامه غیر الزام آور شرکت می کنند و نمایندگانی را برای دیدار با رئیس جمهور بایدن امروز به کاخ سفید می فرستند.

برای روشن بودن، هیچ قاعده یا اجرایی در اینجا پیشنهاد نشده است – اقدامات مورد توافق کاملاً داوطلبانه است. اما اگر چه هیچ سازمان دولتی اگر از چند شرکت طفره رود، هیچ یک از سازمان‌های دولتی مسئول نخواهد بود، اما احتمالاً موضوعی برای ثبت عمومی خواهد بود.

در اینجا لیستی از شرکت کنندگان در کنسرت کاخ سفید آمده است:

• برد اسمیت، رئیس مایکروسافت
• کنت واکر، رئیس، گوگل
• داریو آمودی، مدیرعامل آنتروپیک
• مصطفی سلیمان، مدیر عامل، هوش مصنوعی Inflection
• نیک کلگ، رئیس، متا
• گرگ براکمن، رئیس، OpenAI
• آدام سلیپسکی، مدیر عامل، خدمات وب آمازون

نه زیردستان، اما نه میلیاردر. (و نه زن.)

هفت شرکت (و احتمالاً سایرین که فرش قرمز را دریافت نکردند اما می‌خواهند سوار شوند) به موارد زیر متعهد شده‌اند:

• تست‌های امنیتی داخلی و خارجی سیستم‌های هوش مصنوعی قبل از انتشار، از جمله “تیم قرمز” متخاصم توسط کارشناسان خارج از شرکت.
• اطلاعات را در سراسر دولت، دانشگاه و «جامعه مدنی» در مورد خطرات هوش مصنوعی و تکنیک های کاهش (مانند جلوگیری از «جیل بریک») به اشتراک بگذارید.
• برای محافظت از داده‌های مدل خصوصی مانند وزن‌ها، روی امنیت سایبری و «ضمانت‌های حفاظت از تهدیدات داخلی» سرمایه‌گذاری کنید. این نه تنها برای محافظت از IP مهم است، بلکه به این دلیل که انتشار گسترده زودهنگام می تواند فرصتی برای عوامل مخرب باشد.
• تسهیل کشف و گزارش شخص ثالث از آسیب‌پذیری‌ها، به‌عنوان مثال، برنامه پاداش باگ یا تجزیه و تحلیل متخصص دامنه.
• ایجاد واترمارک قوی یا روش دیگری برای علامت گذاری محتوای تولید شده توسط هوش مصنوعی.
• «قابلیت‌ها، محدودیت‌ها و زمینه‌های استفاده مناسب و نامناسب» سیستم‌های هوش مصنوعی را گزارش کنید. موفق باشید در این مورد یک پاسخ مستقیم دریافت کنید.
• تحقیقات در مورد خطرات اجتماعی مانند سوگیری سیستماتیک یا مسائل مربوط به حریم خصوصی را در اولویت قرار دهید.
• توسعه و استقرار هوش مصنوعی “برای کمک به مقابله با بزرگترین چالش های جامعه” مانند پیشگیری از سرطان و تغییرات آب و هوایی. (اگرچه در یک تماس مطبوعاتی اشاره شد که ردپای کربن مدل‌های هوش مصنوعی ردیابی نمی‌شود.)

اگرچه موارد فوق داوطلبانه هستند، اما می توان به راحتی تصور کرد که تهدید یک فرمان اجرایی – که در حال حاضر در حال توسعه هستند – برای تشویق به انطباق وجود دارد. به عنوان مثال، اگر برخی از شرکت‌ها اجازه آزمایش امنیتی خارجی مدل‌های خود را قبل از انتشار ندهند، EO ممکن است توسعه دهد یک پاراگراف که FTC را به بررسی دقیق محصولات هوش مصنوعی که ادعای امنیت قوی دارند، هدایت می کند. (یک EO در حال حاضر فعال است و از آژانس ها می خواهد که مراقب تعصب در توسعه و استفاده از هوش مصنوعی باشند.)

کاخ سفید آشکارا مشتاق است تا از این موج بزرگ فناوری بعدی بیرون بیاید، زیرا با قابلیت های مخرب رسانه های اجتماعی گرفتار شده است. رئیس‌جمهور و معاون رئیس‌جمهور هر دو با رهبران صنعت ملاقات کرده‌اند و در مورد استراتژی ملی هوش مصنوعی درخواست مشاوره کرده‌اند، همچنین مقدار زیادی بودجه را به مراکز و برنامه‌های تحقیقاتی جدید هوش مصنوعی اختصاص داده‌اند. البته دستگاه علمی و تحقیقاتی ملی به خوبی از آنها جلوتر است، همانطور که این گزارش چالش ها و فرصت های تحقیقاتی بسیار جامع (هر چند لزوماً کمی قدیمی) از DOE و آزمایشگاه های ملی نشان می دهد.