Компанія Nvidia повідомила, що її новітній сервер здатен удесятеро пришвидшувати роботу сучасних моделей ШІ, включно з популярними китайськими розробками Moonshoot AI та DeepSeek.
Сервери Nvidia
Фокус Nvidia зосереджений на моделях зі змішаним експертним складом. Це підхід, коли система розбиває запит на частини та передає їх різним підмодулям. Такий метод став трендом після прориву DeepSeek на початку 2025 року. Їхня модель показала високу продуктивність і потребувала менше ресурсів для навчання, ніж аналоги.
Після цього підхід підхопили OpenAI, Mistral та китайська Moonshoot AI, яка влітку випустила власну модель з відкритим кодом і швидко здобула високі оцінки. Nvidia ж прагнула довести, що навіть за меншої потреби в її чіпах під час навчання, компанія зберігає перевагу на етапі використання моделей.
Новий сервер Nvidia об’єднує 72 флагманські чіпи в одному блоці зі швидкісними внутрішніми з’єднаннями. За словами компанії, продуктивність моделі Moonshoot Kimi K2 Thinking зросла у 10 разів порівняно з попередніми поколіннями серверів. Такий самий приріст було зафіксовано і для моделей DeepSeek.
Переваги Nvidia пояснюють великою кількістю інтегрованих чіпів та унікальними комунікаційними технологіями між ними.