Common Sense Media، منبعی محبوب برای والدین، برای بررسی مناسب بودن محصولات هوش مصنوعی برای کودکان

Common Sense، یک سازمان غیرانتفاعی معروف که به حفظ حریم خصوصی مصرف‌کنندگان، شهروندی دیجیتال و ارائه رتبه‌بندی رسانه‌ها برای والدینی که می‌خواهند برنامه‌ها، بازی‌ها، پادکست‌ها، برنامه‌های تلویزیونی، فیلم‌ها و کتاب‌هایی را که فرزندانشان مصرف می‌کنند، ارزیابی کنند، صبح امروز اعلام کرد که این کار را انجام خواهد داد. نوع دیگری از محصول را به سیستم رتبه بندی و بررسی خود معرفی کنید: محصولات فناوری هوش مصنوعی. این سازمان می‌گوید که سیستم رتبه‌بندی جدیدی خواهد ساخت که محصولات هوش مصنوعی را در ابعاد مختلفی ارزیابی می‌کند، از جمله اینکه آیا این فناوری از «روش‌های هوش مصنوعی مسئولانه» و همچنین مناسب بودن آن برای کودکان بهره می‌برد.

Common Sense اشاره می‌کند که بررسی‌های محصول جدید هوش مصنوعی به‌ویژه بر آن‌هایی تمرکز دارد که توسط کودکان و مربیان استفاده می‌شود.

تصمیم به گنجاندن محصولات هوش مصنوعی در خط تولید خود پس از نظرسنجی انجام شد که در ارتباط با Impact Research انجام شد که نشان داد 82٪ از والدین به دنبال سیستم رتبه بندی هستند که به آنها کمک کند تا ارزیابی کنند که آیا محصولات جدید هوش مصنوعی مانند ChatGPT یا خیر. برای کودکان مناسب بود. بیش از سه چهارم پاسخ دهندگان (77٪) همچنین گفتند که به محصولات مبتنی بر هوش مصنوعی که می تواند به کودکان کمک کند علاقه مند هستند، اما تنها 40٪ گفتند که منبع قابل اعتمادی را می شناسند که می توانند برای یادگیری بیشتر در مورد مناسب بودن محصولات هوش مصنوعی برای آنها استفاده کنند. بچه ها

این سازمان گفت که سیستم جدید با کمک متخصصان در زمینه هوش مصنوعی طراحی خواهد شد و همچنین با هدف اطلاع رسانی تلاش های قانونی و نظارتی آینده در مورد ایمنی آنلاین برای خردسالان خواهد بود.

به طور معمول، سیستم رتبه‌بندی و بررسی رسانه‌های مستقل Common Sense، که در commonsensemedia.org یافت می‌شود، رتبه‌بندی مناسب سنی را در کنار اندازه‌گیری میزان محتوای مثبت یا منفی رسانه ارائه می‌کند، در حوزه‌هایی مانند الگوهای نقش مثبت و پیام‌ها و بازنمایی متنوع، یا در جنبه منفی تر، مواردی مانند خشونت، ابتذال، ترس، مصرف مواد مخدر و موارد دیگر. مشخص نیست که Common Sense چگونه قصد دارد محصولات هوش مصنوعی را تحت سیستم جدید رتبه بندی کند.

با این حال، در یک مقاله موضعی که در آوریل 2023 منتشر شد، Common Sense در مورد چندین مشکل فعلی هوش مصنوعی مدرن هشدار داد، از جمله، اغلب، فقدان “حفاظ های معنی دار” آنها که ممکن است آنها را برای کودکان خطرناک کند. علاوه بر این، هشدار داد که فناوری‌های هوش مصنوعی مولد، مانند ChatGPT OpenAI، در داده‌های آموزشی خود، که شامل مجموعه‌های داده‌ای بزرگ مانند وب‌سایت‌ها، کتاب‌ها و مقاله‌ها می‌شود – مانند محتوای حذف شده از اینترنت، مستعد سوگیری هستند.

فراتر از نگرانی‌های مربوط به کپی‌رایت… مقدار داده‌های مورد نیاز برای آموزش مدل‌های مولد تقریباً تضمین می‌کند که هر مدل مولد تا حدی بر روی اطلاعات مغرضانه، کلیشه‌ها و اطلاعات نادرست آموزش دیده است، که همگی ممکن است در هنگام تولید خروجی منتشر یا بازتولید شوند. کاغذ متذکر شده بود

Common Sense چارچوب زمانی را در مورد اینکه چه زمانی انتظار دارد سیستم بررسی و رتبه بندی هوش مصنوعی جدید خود راه اندازی شود را به اشتراک نگذارد، اما بر ضرورت ساخت چنین منبعی تاکید کرد.

جیمز پی. وجود یک سیستم رتبه‌بندی شخص ثالث مستقل و قابل اعتماد برای اطلاع‌رسانی عمومی و سیاست‌گذاران در مورد تأثیر باورنکردنی هوش مصنوعی بسیار مهم است. در سال‌های اخیر، تعدادی از شرکت‌های فناوری، سود را مقدم بر رفاه کودکان و خانواده‌ها قرار داده‌اند. این فیلم را قبلاً با ظهور رسانه های اجتماعی و متعاقب آن عدم تنظیم این پلتفرم ها دیده بودیم و متأسفانه می دانیم که این نسخه چگونه به پایان می رسد. خیلی ساده، ما نباید اشتباهات مشابهی را با هوش مصنوعی مرتکب شویم که عواقب بزرگتری برای کودکان و جامعه خواهد داشت.»