FedML 11.5 دلار جمع آوری می کند تا ابزارهای MLOps را با یک شبکه محاسباتی غیرمتمرکز هوش مصنوعی ترکیب کند.

علاقه به هوش مصنوعی در بین شرکت‌ها همچنان در حال افزایش است، با یک نظرسنجی اخیر که نشان می‌دهد تقریباً دو سوم شرکت‌ها قصد دارند تا امسال هزینه‌های خود را برای هوش مصنوعی و یادگیری ماشینی افزایش یا حفظ کنند. اما اغلب، این شرکت ها در به کارگیری اشکال مختلف هوش مصنوعی در تولید با مسدود کننده هایی مواجه می شوند.

یک نظرسنجی در سال 2020 از Rexer Analytics نشان داد که تنها 11٪ از مدل های AI همیشه مستقر هستند. در جای دیگر، یکی از تحلیلگران گارتنر تخمین زد که نزدیک به 85 درصد از پروژه های کلان داده با شکست مواجه می شوند.

سلمان اوستیمهر، مدیر افتتاحیه مرکز آموزش ماشینی قابل اعتماد USC-Amazon، با الهام از مقابله با چالش‌ها، یک استارت‌آپ را تأسیس کرد تا به شرکت‌ها امکان آموزش، استقرار، نظارت و بهبود مدل‌های هوش مصنوعی در فضای ابری یا لبه را بدهد. این شرکت که FedML نام دارد، 11.5 میلیون دلار سرمایه اولیه را با ارزش گذاری 56.5 میلیون دلاری به رهبری Camford Capital با مشارکت Road Capital و Finality Capital جذب کرد.

اوستیمهر در یک مصاحبه ایمیلی به تک‌کرانچ گفت: «بسیاری از کسب‌وکارها مشتاق هستند تا مدل‌های هوش مصنوعی سفارشی را بر روی داده‌های خاص شرکت یا صنعت تنظیم کنند، بنابراین می‌توانند از هوش مصنوعی برای رفع نیازهای تجاری استفاده کنند. متأسفانه، ساخت و نگهداری مدل‌های AI سفارشی به دلیل داده‌ها، زیرساخت‌های ابری و هزینه‌های مهندسی بسیار گران است. علاوه بر این، داده‌های اختصاصی برای آموزش مدل‌های AI سفارشی اغلب حساس، تنظیم‌شده یا سیلو هستند.

آوستیمهر ادعا می‌کند که FedML با ارائه یک پلتفرم هوش مصنوعی «همکاری» که به شرکت‌ها و توسعه‌دهندگان اجازه می‌دهد تا با به اشتراک گذاشتن داده‌ها، مدل‌ها و منابع محاسباتی روی وظایف هوش مصنوعی با هم کار کنند، بر این موانع غلبه می‌کند.

FedML می تواند هر تعداد مدل یا مدل AI سفارشی را از جامعه منبع باز اجرا کند. با استفاده از این پلتفرم، مشتریان می‌توانند گروهی از همکاران ایجاد کنند و برنامه‌های هوش مصنوعی را در دستگاه‌های خود (مانند رایانه‌های شخصی) به طور خودکار همگام‌سازی کنند. همکاران می‌توانند دستگاه‌هایی مانند سرورها یا حتی دستگاه‌های تلفن همراه را برای استفاده برای آموزش مدل هوش مصنوعی اضافه کنند و پیشرفت آموزش را در زمان واقعی پیگیری کنند.

اخیراً، FedML FedLLM را راه‌اندازی کرد، یک خط لوله آموزشی برای ساخت مدل‌های زبان بزرگ «مخصوص دامنه» (LLM) و GPT-4 OpenAI بر روی داده‌های اختصاصی. آوستیمهر می‌گوید که FedLLM که با کتابخانه‌های محبوب LLM مانند Hugging Face و DeepSpeed ​​مایکروسافت سازگار است، برای بهبود سرعت توسعه هوش مصنوعی سفارشی و در عین حال حفظ امنیت و حریم خصوصی طراحی شده است. (برای روشن بودن، هیئت منصفه در مورد اینکه آیا دقیقاً این کار را انجام می دهد یا خیر.)

به این ترتیب، FedML تفاوت چندانی با دیگر پلتفرم‌های MLOps ندارد – «MLOps» به ابزارهایی برای ساده‌سازی فرآیند تولید مدل‌های هوش مصنوعی و سپس نگهداری و نظارت بر آنها اشاره دارد. گالیله و آریزه و همچنین سلدون، کواک و ستاره دنباله دار (به نام چند) وجود دارند. شرکت‌های فعلی مانند AWS، مایکروسافت و Google Cloud نیز ابزارهای MLOps را به شکلی دیگر ارائه می‌کنند (نگاه کنید به: SageMaker، Azure Machine Learning، و غیره).

اما FedML جاه طلبی هایی فراتر از توسعه هوش مصنوعی و ابزارهای مدل یادگیری ماشینی دارد.

همانطور که Avestimehr به آن می گوید، هدف ایجاد یک “جامعه” از منابع CPU و GPU برای میزبانی و ارائه مدل ها پس از آماده شدن برای استقرار است. جزئیات هنوز مشخص نشده است، اما FedML قصد دارد تا کاربران را تشویق کند تا از طریق توکن‌ها یا سایر انواع جبران‌سازی به پلتفرم کمک کنند.

محاسبه توزیع شده و غیرمتمرکز برای ارائه مدل هوش مصنوعی ایده جدیدی نیست – Gensys، Run.AI و Petals از جمله کسانی هستند که این کار را انجام داده اند – و در حال تلاش هستند. با این وجود، آوستیمهر معتقد است که FedML می تواند با ترکیب این الگوی محاسباتی با مجموعه MLOps به دسترسی و موفقیت بیشتری دست یابد.

اوستیمهر گفت: «FedML مدل‌های هوش مصنوعی سفارشی را با توانمندسازی توسعه‌دهندگان و شرکت‌ها برای ساختن LLM‌های اختصاصی و خصوصی در مقیاس بزرگ با هزینه کمتر امکان‌پذیر می‌کند. «آنچه FedML را متمایز می‌کند، توانایی آموزش، استقرار، نظارت و بهبود مدل‌های ML در هر کجا و همکاری بر روی داده‌ها، مدل‌ها و محاسبات ترکیبی است – که به طور قابل‌توجهی هزینه و زمان عرضه به بازار را کاهش می‌دهد.»

به گفته وی، FedML، که دارای 17 نفر نیروی کار است، حدود 10 مشتری پرداخت کننده از جمله یک تامین کننده خودرو “سطح یک” و در مجموع 13.5 میلیون دلار در انبار خود، با احتساب بودجه جدید، دارد. آوستیمهر ادعا می کند که این پلتفرم توسط بیش از 3000 کاربر در سراسر جهان استفاده می شود و بیش از 8500 شغل آموزشی در بیش از 10000 دستگاه انجام می دهد.

اوستیمهر با اطمینان گفت: «FedML برای تصمیم‌گیرندگان داده یا فنی، مدل‌های هوش مصنوعی، مقرون به صرفه و زبان بزرگ را به واقعیت تبدیل می‌کند. و به لطف پایه و اساس فناوری یادگیری فدرال، پلت فرم MLOps و ابزارهای هوش مصنوعی مشترک که به توسعه دهندگان کمک می کند تا مدل های سفارشی را آموزش دهند، خدمت کنند و مدل های سفارشی را رعایت کنند، ساخت جایگزین های سفارشی بهترین روش در دسترس است.