Psst، گری مارکوس خوشحال است که از طرف دولت ایالات متحده به تنظیم AI کمک می کند

روز سه‌شنبه هفته جاری، گری مارکوس، عصب‌شناس، بنیان‌گذار و نویسنده، بین سم آلتمن، مدیر عامل OpenAI و کریستینا مونتگومری، که افسر امنیت حریم خصوصی IBM است، نشست و هر سه در مقابل کمیته قضایی سنا بیش از سه ساعت شهادت دادند. سناتورها عمدتاً روی آلتمن متمرکز بودند زیرا او یکی از قدرتمندترین شرکت‌های روی کره زمین را در حال حاضر اداره می‌کند، و به این دلیل که آلتمن بارها از آنها خواسته است تا در تنظیم کار او کمک کنند. (اکثر مدیران عامل از کنگره می خواهند که صنعت آنها را به حال خود رها کند.)

اگرچه مارکوس مدتی است که در محافل دانشگاهی شناخته شده است، ستاره او اخیراً به لطف خبرنامه او (“جاده ای به هوش مصنوعی ما می توانیم اعتماد کنیم”)، یک پادکست (“انسان ها در برابر ماشین ها”) و مطالب مرتبط او در حال افزایش است. ناراحتی در مورد افزایش کنترل نشده هوش مصنوعی. برای مثال، علاوه بر جلسه استماع این هفته، او در این ماه در تلویزیون بلومبرگ ظاهر شد و در مجله ساندی نیویورک تایمز و وایرد در میان جاهای دیگر به نمایش درآمد.

از آنجایی که جلسه استماع این هفته از جهاتی واقعاً تاریخی به نظر می رسید – سناتور جاش هاولی هوش مصنوعی را “یکی از فناورانه ترین نوآوری ها در تاریخ بشریت” توصیف کرد، در حالی که سناتور جان کندی آنقدر مجذوب آلتمن بود که از آلتمن خواست تا تنظیم کننده های خود را انتخاب کند – ما می خواستیم با مارکوس نیز صحبت کنید تا در مورد این تجربه صحبت کنید و ببینید که او در مورد اتفاقات بعدی چه می داند.

آیا هنوز در واشنگتن هستید؟

من هنوز در واشنگتن هستم. من با قانونگذاران و کارکنان آنها و افراد مختلف جالب دیگر ملاقات می کنم و سعی می کنم ببینم آیا می توانیم مواردی را که در مورد آنها صحبت کردم به واقعیت تبدیل کنیم.

شما در NYU تدریس کرده اید. شما چند شرکت هوش مصنوعی را تأسیس کرده اید، از جمله یکی با روباتیک معروف رادنی بروکس. من در سال 2017 روی صحنه با بروکس مصاحبه کردم و او گفت که فکر نمی‌کند ایلان ماسک واقعا هوش مصنوعی را درک کند و فکر می‌کند ماسک اشتباه می‌کند که هوش مصنوعی یک تهدید وجودی است.

فکر می‌کنم من و راد در مورد اینکه آیا هوش مصنوعی فعلی چیزی شبیه هوش مصنوعی عمومی است یا خیر، تردید داریم. چندین موضوع وجود دارد که باید آنها را از هم جدا کنید. یکی اینکه: آیا ما به AGI نزدیک هستیم و دیگری اینکه هوش مصنوعی فعلی ما چقدر خطرناک است؟ فکر نمی‌کنم هوش مصنوعی فعلی ما یک تهدید وجودی باشد، اما خطرناک است. از بسیاری جهات، به نظر من این تهدیدی برای دموکراسی است. این تهدیدی برای بشریت نیست. قرار نیست همه انسان ها را نابود کند. اما این یک خطر بسیار جدی است.

چندی پیش، شما در حال مناظره بودید Yann LeCun، دانشمند ارشد هوش مصنوعی متا. من مطمئن نیستم که چیست آن فلپ در مورد اهمیت واقعی شبکه های عصبی یادگیری عمیق بود؟

بنابراین من و لیکان در واقع برای خیلی چیزها بحث کرده ایم خیلی سال. ما یک مناظره عمومی داشتیم که دیوید چالمرز، فیلسوف، آن را در سال 2017 مدیریت کرد. [LeCun] از آن زمان تا کنون یک بحث واقعی دیگر داشته باشد و او این کار را انجام نخواهد داد. او ترجیح می دهد من را در توییتر و مواردی از این دست زیرتوییت کند، که فکر نمی کنم بزرگسالانه ترین روش مکالمه باشد، اما چون او شخصیت مهمی است، من پاسخ می دهم.

یک چیز که فکر می کنم در مورد آن اختلاف نظر داریم [currently] است، LeCun فکر می کند استفاده از اینها خوب است [large language models] و اینکه هیچ آسیبی در اینجا وجود ندارد. من فکر می کنم او در این مورد به شدت در اشتباه است. تهدیدهای بالقوه ای برای دموکراسی وجود دارد، از اطلاعات نادرست که عمداً توسط بازیگران بد تولید می شود، از اطلاعات غلط تصادفی – مانند استاد حقوق که متهم به آزار جنسی بود، حتی اگر مرتکب آن نشده باشد. [to the ability to] باورهای سیاسی مردم را بر اساس داده های آموزشی که عموم مردم حتی چیزی در مورد آن نمی دانند شکل می دهد. این مانند رسانه های اجتماعی است، اما حتی موذیانه تر. شما همچنین می توانید از این ابزارها برای دستکاری افراد دیگر و احتمالا فریب دادن آنها به هر چیزی که می خواهید استفاده کنید. شما می توانید آنها را به طور انبوه مقیاس کنید. در اینجا قطعاً خطراتی وجود دارد.

شما در روز سه‌شنبه چیز جالبی در مورد سام آلتمن گفتید، و به سناتورها گفتید که او به آنها نگفته است که بدترین ترسش چیست که شما آن را “ژرمن” نامیدید، و آنها را به سمت او هدایت کردید. چیزی که او هنوز نگفته است، ارتباطی با سلاح های خود مختار است که من چند سال پیش به عنوان یکی از نگرانی های اصلی درباره آن با او صحبت کردم. به نظرم جالب بود که اسلحه بالا نیامد.

ما تعداد زیادی زمین را پوشش دادیم، اما چیزهای زیادی وجود دارد که به آنها نرسیدیم، از جمله اجرای قانون، که واقعاً مهم است، و امنیت ملی و سلاح های خودمختار و مواردی از این قبیل. چندین مورد دیگر نیز وجود خواهد داشت [these].

آیا صحبتی از منبع باز در مقابل سیستم های بسته وجود داشت؟

به سختی بالا آمد. واضح است که این یک سوال واقعا پیچیده و جالب است. واقعاً معلوم نیست پاسخ درست چیست. شما از مردم می خواهید که علم مستقل انجام دهند. شاید بخواهید نوعی مجوز در مورد چیزهایی که قرار است در مقیاس بسیار بزرگ به کار گرفته شوند، داشته باشید، اما خطرات خاصی از جمله خطرات امنیتی را به همراه دارند. مشخص نیست که ما بخواهیم هر بازیگر بدی به ابزارهای قدرتمند خودسرانه دسترسی داشته باشد. بنابراین، استدلال‌هایی برای و استدلال‌هایی علیه وجود دارد، و احتمالاً پاسخ درست شامل اجازه دادن به میزان مناسبی از منبع باز است، اما همچنین محدودیت‌هایی در مورد اینکه چه کاری می‌توان انجام داد و چگونه می‌توان آن را به کار برد.

آیا فکر خاصی در مورد استراتژی متا برای ارائه مدل زبان خود در جهان برای دستکاری مردم دارید؟

من فکر نمی کنم این عالی باشد [Meta's AI technology] صادقانه بگویم، LLaMA وجود دارد. فکر می کنم کمی بی دقتی بود. و، می دانید، این به معنای واقعی کلمه یکی از جن هایی است که از بطری بیرون آمده است. هیچ زیرساخت قانونی وجود نداشت. آنها در مورد کاری که انجام می دهند با کسی مشورت نکردند، تا جایی که من نمی دانم. شاید آنها این کار را کردند، اما فرآیند تصمیم گیری با آن یا مثلاً بینگ، اساساً فقط است: یک شرکت تصمیم می گیرد که ما این کار را انجام دهیم.

اما برخی از چیزهایی که شرکت‌ها تصمیم می‌گیرند ممکن است در آینده نزدیک و یا در درازمدت ضرر داشته باشند. بنابراین فکر می‌کنم دولت‌ها و دانشمندان باید به طور فزاینده‌ای نقشی در تصمیم‌گیری درباره آنچه در آنجا رخ می‌دهد داشته باشند [through a kind of] FDA برای هوش مصنوعی که در آن، اگر می‌خواهید استقرار گسترده انجام دهید، ابتدا یک آزمایش انجام دهید. شما در مورد مزایای هزینه صحبت می کنید. شما یک آزمایش دیگر انجام دهید. و در نهایت، اگر مطمئن باشیم که مزایای آن بیشتر از خطرات است، [you do the] انتشار در مقیاس بزرگ اما در حال حاضر، هر شرکتی در هر زمانی می تواند تصمیم بگیرد که چیزی را برای 100 میلیون مشتری مستقر کند و این کار را بدون هیچ گونه نظارت دولتی یا علمی انجام دهد. شما باید سیستمی داشته باشید که برخی مقامات بی طرف بتوانند در آن وارد شوند.

این مقامات بی طرف از کجا می آیند؟ آیا هرکسی که چیزی در مورد نحوه کارکرد این چیزها می داند در حال حاضر برای یک شرکت کار نمی کند؟

من نیستم. [Canadian computer scientist] یوشوا بنجیو نیست. تعداد زیادی از دانشمندان وجود دارند که برای این شرکت ها کار نمی کنند. این یک نگرانی واقعی است که چگونه می توان از آن حسابرسان به اندازه کافی استفاده کرد و چگونه به آنها انگیزه داد تا این کار را انجام دهند. اما 100000 دانشمند کامپیوتر در اینجا وجود دارد که برخی از جنبه های آن تخصص دارند. همه آنها به صورت قراردادی برای گوگل یا مایکروسافت کار نمی کنند.

آیا می خواهید در این آژانس هوش مصنوعی نقشی داشته باشید؟

من علاقه مند هستم، احساس می کنم هر چیزی که می سازیم باید جهانی و خنثی باشد، احتمالاً غیرانتفاعی، و فکر می کنم صدای خوب و خنثی ای در اینجا دارم که می خواهم آن را به اشتراک بگذارم و سعی کنم ما را به مکان خوبی برسانم.

نشستن در مقابل کمیته قضایی سنا چه حسی داشت؟ و آیا فکر می کنید دوباره دعوت می شوید؟

اگر دوباره دعوت شوم شوکه نمی شوم اما هیچ ایده ای ندارم. من واقعاً عمیقاً تحت تأثیر آن قرار گرفتم و واقعاً عمیقاً تحت تأثیر قرار گرفتم که در آن اتاق بودم. فکر می کنم کمی کوچکتر از تلویزیون است. اما احساس می‌شد که همه آنجا هستند تا تلاش کنند تا بهترین کاری را که می‌توانند برای ایالات متحده انجام دهند – برای بشریت. همه وزن لحظه را می دانستند و به هر حال سناتورها بهترین بازی خود را به ارمغان آوردند. ما می دانستیم که به دلایلی آنجا هستیم و بهترین تلاش خود را به کار بردیم.