Ілон Маск розкрив особливості свого нового суперкомп’ютера xAI Colossus AI, роботу котрого забезпечують 100000 процесорів.
Відеоогляд пристрою було зроблено YouTube-каналом ServeTheHome, який показав його складні серверні системи.
xAI Colossus оснащений потужними серверними блоками HGX H100 від компанії Nvidia, кожен із яких має вісім графічних процесорів H100. Вони забезпечують обчислювальну потужність у 3,6 терабіт на секунду. Розробка базується на системі рідинного охолодження 4U Supermicro, де кожна серверна стійка, що вміщує 64 графічних процесори, має окрему резервну систему. Завдяки 1500 таким стійкам у кластері Colossus обробляються колосальні обсяги даних для моделей штучного інтелекту компанії X (раніше Twitter).
Функціональні можливості та застосування
Суперкомп’ютер Colossus призначений для навчання складних ШІ-моделей, які будуть використані в чат-боті Grok 3, доступному лише для користувачів X Premium. За інформацією від Nvidia, Colossus — це найбільший у світі суперкомп’ютер для ШІ. Він використовує Ethernet для обміну даними замість більш поширених у галузі суперкомп’ютерів технологій на кшталт InfiniBand. Окрім Grok 3, Colossus буде залучений до розробки нових ШІ-моделей, здатних вийти за межі сучасних технологій.
Плани модернізації
Попри запуск першої фази Colossus, проєкт продовжує розширюватися. У наступній фазі Ілон Маск планує подвоїти потужність кластера, додавши 50 000 графічних процесорів H100 і ще 50 000 наступного покоління H200. Це також збільшить енергоспоживання, що вже зараз потребує додаткових ресурсів, оскільки 14 дизельних генераторів на майданчику не забезпечують достатньої потужності.
До того ж, на об’єктах Tesla, таких як “Giga Texas“, вже працює подібний суперкомп’ютер Cortex із 50 000 GPU, який фокусується на навчанні автономного ШІ. Tesla також планує запустити проєкт Dojo у Буффало, що коштує $500 млн і покликаний посилити дослідження ШІ, хоч і залишаються побоювання щодо рентабельності таких масштабних інвестицій у високотехнологічні обчислення.