بسیاری از داده های حساس هنوز در ChatGPT پست می شوند

داده های جدید از Netskope ادعا می کند که کارمندان به اشتراک گذاری اطلاعات حساس شرکت با آنها ادامه می دهند نویسندگان هوش مصنوعی و چت ربات هایی مانند ChatGPT با وجود خطر آشکار نشت یا نقض.

این تحقیق حدود 1.7 میلیون کاربر را در 70 سازمان جهانی تحت پوشش قرار می دهد و به طور متوسط ​​158 رویداد ماهانه کد منبع به ازای هر 10000 کاربر در ChatGPT ارسال می شود که آن را به مهم ترین آسیب پذیری شرکت نسبت به سایر انواع داده های حساس تبدیل می کند.

در حالی که مواردی از ارسال داده‌های تنظیم‌شده (18 رویداد/10000 کاربر/ماه) و مالکیت معنوی (چهار حادثه/10000 کاربر/ماه) در ChatGPT بسیار کمتر رایج است، واضح است که بسیاری از توسعه‌دهندگان به سادگی متوجه آسیب‌هایی نیستند که می‌تواند توسط کد منبع فاش شده ایجاد شود.

مراقب آنچه در ChatGPT پست می کنید باشید

در کنار مواجهه‌های مستمری که می‌تواند منجر به نقاط ضعف شرکت‌ها شود، Netskope همچنین رونق علاقه به هوش مصنوعی را برجسته کرد. این ارقام حاکی از رشد 22.5 درصدی استفاده از اپلیکیشن GenAI در دو ماه گذشته است و شرکت‌های بزرگ با بیش از 10000 کاربر روزانه به طور متوسط ​​از پنج برنامه هوش مصنوعی استفاده می‌کنند.

ChatGPT حرف اول را می زند و هشت برابر تعداد کاربران فعال روزانه نسبت به سایر برنامه های GenAI دارد. با میانگین شش درخواست در روز، هر کاربر این پتانسیل را دارد که آسیب قابل توجهی به کارفرمای خود وارد کند.

سه برنامه برتر هوش مصنوعی مولد مورد استفاده سازمان‌ها در سراسر جهان علاوه بر ChatGPT (84%) عبارتند از Grammarly (9.9%) و Bard (4.5%)، که خود رشد سالم 7.1% در هفته را در مقایسه با 1.6% در هفته برای ChatGPT تجربه می‌کند.

بسیاری استدلال خواهند کرد که می توان از آپلود کد منبع یا سایر اطلاعات حساس اجتناب کرد، اما مدیر تحقیقات تهدیدات نتسکوپ، ری کانزانیز، می گوید که این امر “حتمی است”. در عوض، Canzanese مسئولیت اجرای کنترل‌های پیرامون هوش مصنوعی را بر عهده سازمان‌ها می‌گذارد.

جیمز رابینسون، معاون مدیر امنیت اطلاعات این شرکت، افزود: «سازمان‌ها باید بر توسعه آگاهی نیروی کار و سیاست‌های داده تمرکز کنند تا نیازهای کارکنانی را که از محصولات هوش مصنوعی استفاده می‌کنند، برآورده کنند».

برای مدیران و تیم‌های فناوری اطلاعات، این شرکت پیشنهاد می‌کند دسترسی به برنامه‌های غیرضروری یا برنامه‌هایی را که خطر نامتناسبی دارند مسدود کنند، آموزش‌های مکرر کاربران را ارائه دهد و از فناوری‌های مدرن پیشگیری از از دست دادن داده‌ها استفاده کند.