شکستن انحصار در دنیای مدلهای هوش مصنوعی
دنیای مدلهای هوش مصنوعی شاهد تغییری بزرگ است. پس از انتشار مستندات API مدل جدید کیمی کی۳ (Kimi K3)، شرکت چینی مانشات ایآی (Moonshot AI) به وعده خود برای انتشار رایگان وزنهای این مدل عمل کرد. اکنون هر کسی که سختافزار مناسب (پردازندههای گرافیکی هوش مصنوعی) در اختیار داشته باشد، میتواند با محدودیتهای بسیار کم از آن استفاده کند.
این اقدام، چالشی مستقیم برای غولهای هوش مصنوعی از جمله اوپنایآی (OpenAI) و انتروپیک (Anthropic) محسوب میشود. مدل کیمی کی۳ (Kimi K3) در بنچمارکهای خود، مدلهای پیشین کلاد (Claude) و جیپیتی (GPT) را شکست داده و بسیار به مدلهای Fable و Sol نزدیک است؛ در حالی که اجرای آن ۲ تا ۳ برابر ارزانتر تمام میشود.
یکی از دلایل اصلی کارایی بالای Kimi K3، استفاده از ترکیب دقیق دادهها (MXFP4 برای وزنها و MXFP8 برای ورودیها) است که باعث کاهش شدید مصرف حافظه ویدیویی (VRAM) میشود. از ۲.۸ تریلیون پارامتر این مدل، تنها ۱۰۴.۲ میلیارد پارامتر در لحظه فعال میشوند.
این اخبار برای اوپنایآی (OpenAI) و انتروپیک (Anthropic) خبر بدی است، چرا که اکنون رقبای مستقیم آنها میتوانند با سختافزارهای استاندارد، مدلهایی مشابه ارائه دهند. اگرچه «وزنهای باز» به معنای «متنباز» بودن کامل نیست و روش آموزش این مدل همچنان راز تجاری مانشات ایآی (Moonshot AI) باقی مانده است.