Компанія OpenAI офіційно представила свій перший спеціалізований чіп для систем штучного інтелекту. Новий процесор отримав назву Jalapeño і був створений у співпраці з Broadcom. Його головне завдання – прискорити роботу моделей ШІ та знизити витрати на їхню активність.
Чіп Jalapeño
Jalapeño призначений не для навчання моделей, а для логічного висновку – етапу, коли вже готова модель обробляє запити користувачів і формує відповіді. Саме цей процес лежить в основі роботи сучасних чат-ботів, помічників і сервісів генерації коду.
За інформацією OpenAI, чіп поки що проходить тестування, однак попередні результати виявилися багатообіцяючими. Компанія стверджує, що новинка демонструє значно кращу енергоефективність порівняно з наявними рішеннями, тобто виконує більше обчислень при меншому енергоспоживанні.
Розробку процесора OpenAI вела разом із компанією Broadcom, а до його проєктування також залучали власні моделі штучного інтелекту. Співпраця між компаніями була офіційно анонсована ще торік, хоча про наміри OpenAI створити власне апаратне забезпечення говорили вже давно. Однією з причин такого кроку називали прагнення зменшити залежність від графічних процесорів NVIDIA, які сьогодні домінують на ринку прискорювачів для ШІ.
Президент OpenAI Грег Брокман пояснив, що компанія зосередилася на створенні чіпа для тих типів обчислень, де стандартні рішення вже не забезпечують достатньої ефективності. Саме тому Jalapeño оптимізували під конкретні сценарії використання, зокрема запуск моделей, які працюють із програмним кодом у режимі реального часу.
Водночас OpenAI не планує повністю відмовлятися від обладнання NVIDIA. Найскладніші обчислення, як-от попереднє навчання великих мовних моделей, і надалі вимагатимуть високопродуктивних графічних процесорів. Проте навіть часткове перенесення навантаження на власний чіп може суттєво скоротити експлуатаційні витрати компанії.