Пока глава Nvidia бахвалится, ускоритель Intel Gaudi 2 превосходит в тестах Stability AI и Nvidia A100, и даже H100
Компания Nvidia доминирует на рынке ускорителей для ИИ, но это не значит, что её решения самые производительные во всех режимах. К примеру, тесты показывают, что Intel Gaudi 2 может быть в разы быстрее Nvidia H100.
Новые тесты опубликовала вовсе не Intel, а компания Stability AI, что делает их более интересными. В компании решили сравнить новинку Intel с Nvidia H100 и A100 по скорости обучения ИИ в модели Stable Diffusion 3.
Как можно видеть, Gaudi 2 может быть вдвое быстрее H100 и втрое быстрее A100.
При этом в тестах вывода с моделью параметров Stable Diffusion 3 8B ускоритель Gaudi 2 обеспечивает скорость вывода, аналогичную Nvidia A100 с базовым PyTorch. При этом благодаря оптимизации TensorRT ускорители A100 создают изображения на 40% быстрее, чем Gaudi 2.
