Південнокорейська компанія SK hynix повідомила про старт масового виробництва нового покоління чіпів пам’яті для систем штучного інтелекту. Йдеться про модуль SOCAMM2 об’ємом 192 ГБ, який орієнтований на сервери для навчання та обробки великих мовних моделей.
Новий модуль пам’яті
Новинка базується на технології LPDDR5X DRAM шостого покоління (1cnm) і створена з урахуванням найвимогливіших навантажень ШІ. У компанії визнають, що слабким місцем сучасних систем штучного інтелекту дедалі частіше стає не обчислювальна потужність, а пам’ять. Особливо її пропускна здатність та енергоспоживання.
SOCAMM2 пропонує альтернативу класичним серверним рішенням. Замість традиційної архітектури використано адаптовану мобільну пам’ять, що дозволило зменшити енергоспоживання без втрати продуктивності. За даними виробника, новий модуль забезпечує більш ніж удвічі вищу пропускну здатність порівняно з RDIMM і водночас підвищує енергоефективність більш ніж на 75%.
Окремий акцент зроблено на конструкції. Компактний форм-фактор і новий тип з’єднання покращують стабільність сигналу та спрощують обслуговування в дата-центрах. Модуль уже оптимізований під платформу NVIDIA Vera Rubin.
У SK hynix очікують, що SOCAMM2 допоможе зняти частину навантаження під час навчання та функціонування моделей, прискоривши обробку даних і знизивши витрати енергії.