همه ما باید نگران نفوذ هوش مصنوعی در کار جمع‌سپاری باشیم

یک کاغذ جدید محققان دانشگاه سوئیس EPFL نشان می‌دهند که بین 33 تا 46 درصد از کارگران توزیع‌شده در سرویس Mechanical Turk آمازون به نظر می‌رسد هنگام انجام یک کار خاص به آنها «فریب» داده‌اند، زیرا از ابزارهایی مانند ChatGPT برای انجام برخی از کارها استفاده می‌کنند. کار کردن اگر این عمل گسترده باشد، ممکن است به یک مسئله بسیار جدی تبدیل شود.

Mechanical Turk آمازون مدت‌ها پناهگاهی برای توسعه‌دهندگان ناامید بوده است که می‌خواهند کار را توسط انسان‌ها انجام دهند. به طور خلاصه، این یک رابط برنامه نویسی کاربردی (API) است که وظایف را به انسان ها تغذیه می کند، آنها آنها را انجام می دهند و سپس نتایج را برمی گردانند. این وظایف معمولاً از نوعی هستند که آرزو می کنید رایانه ها در آنها بهتر باشند. به گفته آمازون، نمونه‌ای از چنین وظایفی می‌تواند این باشد: «کشیدن جعبه‌های مرزی برای ساخت مجموعه داده‌های با کیفیت بالا برای مدل‌های بینایی رایانه‌ای، جایی که این کار ممکن است برای یک راه‌حل کاملاً مکانیکی بسیار مبهم و حتی برای یک تیم بزرگ از متخصصان انسانی بسیار گسترده باشد. ”

دانشمندان داده با توجه به منشا آنها با مجموعه داده‌ها متفاوت رفتار می‌کنند – اگر توسط افراد یا یک مدل زبان بزرگ (LLM) ایجاد شده باشند. با این حال، مشکل اینجا با Mechanical Turk بدتر از آن است که به نظر می رسد: هوش مصنوعی اکنون به اندازه کافی ارزان در دسترس است که مدیران محصولی که استفاده از Mechanical Turk را به جای یک راه حل تولید شده توسط ماشین انتخاب می کنند، به انسان ها در چیزی بهتر از روبات ها تکیه می کنند. مسموم کردن آن منبع داده می تواند عواقب جدی داشته باشد.

محققان گفتند: «تمایز LLM از متن تولید شده توسط انسان، هم برای مدل‌های یادگیری ماشینی و هم برای انسان‌ها دشوار است. بنابراین محققان روشی را برای تشخیص اینکه آیا محتوای متنی توسط انسان یا ماشین ایجاد شده است ایجاد کردند.

این آزمایش شامل درخواست از کارگران جمع‌سپاری می‌شد تا چکیده‌های پژوهشی مجله پزشکی نیوانگلند را در خلاصه‌های 100 کلمه‌ای فشرده کنند. شایان ذکر است که این است دقیقا وظیفه ای که فناوری های هوش مصنوعی مولد مانند ChatGPT در آن خوب هستند.