استقبال فوقالعاده از مدل هوش مصنوعی Kimi K3 شرکت Moonshot را با چالشی جدی روبهرو کرده است. میزان تقاضا برای این مدل به قدری بالا رفته که توان پردازشی سرورهای این آزمایشگاه چینی به انتهای ظرفیت خود رسیده و ناچار به تعلیق ثبتنام کاربران جدید شده است.
این شرکت در شبکه اجتماعی ایکس اعلام کرده طی ۴۸ ساعت گذشته تقاضا به مرز حداکثر ظرفیت موجود رسیده و پردازشگرهای گرافیکی (GPU) زیر فشار سنگینی قرار گرفتهاند.
تغییرات ساختاری Moonshot برای مدیریت ظرفیت GPU
درحالحاضر ثبتنام برای اشتراکهای جدید متوقف شده است. بااینحال، کاربران قبلی متأثر نخواهند شد و Moonshot تمام ظرفیت پردازشی مازاد خود را به آنها اختصاص داده تا پایداری سرویس حفظ شود. پذیرش کاربران جدید نیز قرار است بهصورت مرحلهای و کنترلشده از سر گرفته شود.
علاوهبراین، شرکت چینی برای مدیریت بهتر ظرفیت GPU، طرحهای اشتراکی خود را به دو بخش تقسیم کرده است:
- اشتراک Kimi Membership: مخصوص برنامههای وب، اپلیکیشن و محصولات کاری.
- اشتراک Kimi Code Membership: اختصاصی برای برنامهنویسی.
این تفکیک اهمیت زیادی دارد؛ زیرا وظایف مربوط به کدنویسی و ایجنتهای هوشمند به دلیل زنجیرههای استدلال طولانی و حجم بالای زمینه، به پردازش فوقالعاده سنگینی نیاز دارند و منابع پردازشی بسیار بیشتری نسبت به چتهای معمولی مصرف میکنند. جداسازی بخش کدنویسی مانع از اتمام سریع منابع بقیه کاربران میشود. گزارشها نشان میدهد حجم درخواستها طی دو روز اول عرضه، بسیار فراتر از پیشبینیها بوده و خوشه پردازشی شرکت را تا آستانه ظرفیت کامل پیش برده است.
مدل Kimi K3 با ۲.۸ تریلیون پارامتر به عنوان بزرگترین مدل متنباز جهان شناخته میشود. از نظر تئوری، این مدلها باید فشار را از روی یک سرویسدهنده خاص بردارند، چرا که هر کسی میتواند مدل را دانلود و روی سرور خود اجرا کند. اما وزنهای این مدل تا ۲۷ ژوئیه منتشر نمیشود و تا آن زمان تنها راه استفاده، اپلیکیشنها و API اختصاصی خود Moonshot است؛ موضوعی که تمام بار تقاضا را روی سرورهای یک شرکت میاندازد.
اجرای این مدل روی سیستمهای معمولی یا لپتاپ ممکن نیست و براساس برآوردها، برای میزبانی آن حداقل به ۸ تراشه H100 یا H200 نیاز است. همچنین پنجره زمینه ۱ میلیون توکنی و پشتیبانی از متن و تصویر، مصرف پردازشی آن را چند برابر میکند. انتشار وزنهای مدل مانند یک سوپاپ اطمینان عمل خواهد کرد و مشتریان بزرگ میتوانند آن را روی سرورهای خود اجرا کنند، اما کاربران معمولی همچنان وابسته به اپلیکیشنهای اصلی خواهند بود.
موفقیت Kimi K3 زمانی رخ داده که درآمد سالانه تکرارشونده Moonshot در ماه ژوئن به ۳۰۰ میلیون دلار رسیده و این شرکت درحال آمادهسازی برای ورود به بورس هنگکنگ با ارزشگذاری احتمالی بیش از ۳۰ میلیارد دلار است. داشتن مدلی که تقاضا برای آن بیش از حد توان فروش است، هرچند چالشبرانگیز محسوب میشود، اما جذابیت بالایی برای سرمایهگذاران دارد.
نظرات کاربران