هنگامی که برنامه کمک مالی جدید، OpenAI قصد دارد مقررات هوش مصنوعی را جمع سپاری کند

OpenAI می‌گوید برنامه‌ای را برای اعطای 100000 دلار کمک مالی به منظور تأمین مالی آزمایش‌ها در راه‌اندازی یک فرآیند دموکراتیک برای تصمیم‌گیری درباره قوانینی که سیستم‌های هوش مصنوعی باید دنبال کنند، راه‌اندازی کرده است – «در محدوده‌های تعریف‌شده توسط قانون».

به طور مشخص، OpenAI می‌گوید که به دنبال تأمین مالی افراد، تیم‌ها و سازمان‌ها برای توسعه اثبات مفاهیم برای یک «فرایند دموکراتیک» است که می‌تواند به سؤالات مربوط به نرده‌های محافظ برای هوش مصنوعی پاسخ دهد. این شرکت می‌گوید که می‌خواهد از این آزمایش‌ها بیاموزد و از آن‌ها به‌عنوان پایه‌ای برای یک فرآیند جهانی‌تر و جاه‌طلبانه‌تر در آینده استفاده کند.

این شرکت در وبلاگی نوشت: «در حالی که این آزمایش‌های اولیه (حداقل در حال حاضر) برای تصمیم‌گیری الزام‌آور نیستند، امیدواریم که آنها سؤالات مربوط به تصمیم را بررسی کنند و ابزارهای دموکراتیک جدیدی بسازند که می‌توانند مستقیماً تصمیم‌گیری را در آینده ارائه دهند.» پست امروز منتشر شد “این کمک هزینه نشان دهنده گامی برای ایجاد فرآیندهای دموکراتیک برای نظارت بر … ابراطلاعات است.”

با کمک های مالی ارائه شده توسط سازمان غیرانتفاعی OpenAI، OpenAI امیدوار است فرآیندی را ایجاد کند که منعکس کننده ایده آل افلاطونی دموکراسی باشد: یک گروه “نماینده گسترده” از مردم که نظرات خود را تبادل می کنند، در بحث های “عمدی” شرکت می کنند و در نهایت در مورد یک نتیجه از طریق یک شفاف تصمیم می گیرند. فرایند تصمیم گیری. OpenAI می‌گوید در حالت ایده‌آل، این فرآیند به پاسخ‌گویی به سوالاتی مانند “در چه شرایطی سیستم‌های هوش مصنوعی باید شخصیت‌های عمومی را محکوم یا انتقاد کنند، با توجه به نظرات مختلف گروه‌ها در مورد آن چهره‌ها، کمک می‌کند؟” و “چگونه باید دیدگاه های مورد مناقشه در خروجی های هوش مصنوعی نمایش داده شوند؟”

OpenAI می نویسد: “هدف اصلی این کمک مالی تقویت نوآوری در فرآیندها است – ما به روش های دموکراتیک بهبود یافته برای کنترل رفتار هوش مصنوعی نیاز داریم.” ما معتقدیم که تصمیم گیری در مورد نحوه رفتار هوش مصنوعی باید بر اساس دیدگاه های مختلف که منعکس کننده منافع عمومی است شکل گیرد.

در پست اعلامیه، OpenAI اشاره می کند که برنامه کمک هزینه به طور کامل از منافع تجاری آن جدا شده است. اما با توجه به انتقادات اخیر سام آلتمن، مدیر عامل OpenAI از مقررات پیشنهادی هوش مصنوعی در اتحادیه اروپا، خوردن این قرص کمی سخت است. پس از حضور آلتمن در مقابل کمیته کنگره سنای ایالات متحده در هفته گذشته، که در آن او از طعم بسیار خاصی از مقررات هوش مصنوعی که تأثیر حداقلی بر فناوری OpenAI امروز دارد، حمایت کرد، این زمان نیز آشکار به نظر می رسد.

با این حال، حتی اگر این برنامه به خود خدمتی ختم شود، جهت گیری جالبی برای سیاست گذاری هوش مصنوعی است (البته از برخی جهات تکراری با تلاش های اتحادیه اروپا است.) به عنوان مثال، من کنجکاو هستم که ببینم چه نوع ایده هایی برای «فرایندهای دموکراتیک» وجود دارد. ظاهر می شود – و متقاضیانی که OpenAI در نهایت انتخاب می کنند.

مردم می توانند از امروز برای برنامه کمک هزینه OpenAI درخواست دهند – آخرین مهلت 24 ژوئن ساعت 9 شب است. پس از پایان دوره درخواست، OpenAI ده دریافت کننده موفق را انتخاب خواهد کرد. گیرندگان باید مفهومی شامل حداقل 500 شرکت کننده را به نمایش بگذارند، یک گزارش عمومی در مورد یافته های خود را تا 20 اکتبر منتشر کنند و کد پشت کار خود را منبع باز کنند.