Компанія Hailo з Тель-Авіва презентувала революційний процесор Hailo-10H. Це новий периферійний прискорювач штучного інтелекту, що дозволяє запускати генеративні моделі ШІ безпосередньо на пристроях, без залучення хмарної інфраструктури. Цей чіп уже доступний для замовлення.
Що відомо про Hailo-10H
Hailo-10H підтримує як великі мовні моделі (LLM), так і моделі візуально-мовного аналізу (VLM), що відкриває шлях для застосування в автомобільній індустрії, системах розумного дому, роздрібній торгівлі та телекомунікаційній інфраструктурі. Чіп забезпечує обробку в режимі реального часу з наднизькою затримкою, дозволяючи запускати моделі з 2 мільярдами параметрів зі швидкістю понад 10 токенів за секунду.
Крім потужності, Hailo-10H вирізняється енергоефективністю. Він споживає лише 2,5 Вт. Це дозволяє використовувати його в компактних і мобільних пристроях, що критично для рішень на периферії. Також він підтримує виявлення об’єктів у відео 4K у режимі реального часу з такими моделями, як YOLOv11m.
Генеральний директор компанії Орр Данон зазначив, що запуск Hailo-10H – це важливий крок до масової доступності генеративного ШІ.
Для європейських інженерів важливо, що чіп відповідає вимогам AEC-Q100 Grade 2, що робить його придатним для впровадження в автомобільні платформи.