Компанія Google представила восьме покоління власних тензорних процесорів (TPU), які вперше поділили на два окремі типи. Один із чіпів, TPU 8t, призначений для тренування моделей штучного інтелекту. Тоді як TPU 8i оптимізований для інференсу, тобто виконання запитів користувачів уже після навчання моделей.
Що відомо про чіпи
За заявами компанії, нове покоління дає відчутний приріст продуктивності. Навчання може відбуватися до трьох разів швидше, а ефективність зростає приблизно на 80%. Крім того, Google говорить про можливість об’єднувати понад мільйон TPU в одному кластері. Якщо це працює так, як описано, то в найближчому майбутньому можна говорити про суттєве зниження енергоспоживання та вартості обчислень.
Втім, це не означає, що Google виходить на відкриту війну з Nvidia. Навпаки, компанія прямо визнає, що її чіпи лише доповнюють інфраструктуру, побудовану на рішеннях Nvidia. Більше того, у Google планують використовувати нове покоління чіпів Nvidia, Vera Rubin, для хмарної інфраструктури. Схожу стратегію використовують компанії Microsoft та Amazon. Їхні власні розробки не витісняють Nvidia, а працюють поруч із нею.
Наразі співпраця між компаніями лише посилюється. Google підтвердила, що працює разом із Nvidia над розвитком мережевих технологій для дата-центрів. Йдеться про систему Falcon. Це відкрита розробка, створена за участі Open Compute Project, яка має підвищити ефективність роботи інфраструктури ШІ.