Компанія Nvidia оприлюднила результати тестів своїх ШІ-прискорювачів H100, порівнюючи їх з нещодавно представленими AMD Instinct MI300X.
Про це повідомляє пресслужба Nvidia.
NVIDIA стверджує, що прискорювачі H100 забезпечують більш високу продуктивність, особливо при використанні оптимізованого програмного середовища для ШІ обчислень.
У компанії вказують, що оновлення програмного забезпечення, зокрема TensorRT-LLM, значно підвищили продуктивність H100, дозволяючи ефективно працювати з великими мовними моделями, наприклад, Llama 2 з 70 млрд параметрів.
AMD, з іншого боку, в своїй презентації стверджує, що Instinct MI300X перевершують H100 на 20% в продуктивності та до 60% у складних завданнях з використанням восьми прискорювачів.
Однак NVIDIA реагує на ці заяви, вказуючи на те, що тести AMD проводилися з використанням оптимізованих бібліотек ROCm 6.0, тоді як для H100 використовувався TensorRT-LLM.
Важливо відзначити, що NVIDIA робить акцент на важливості оптимізованого програмного середовища для досягнення максимальної продуктивності своїх прискорювачів, використовуючи TensorRT-LLM.