2024-04-05 18:35:05
Для запуска Sora в открытый доступ могут потребоваться миллионы NVIDIA H100.
Технические специалисты из Factorial Funds провели сложный анализ видео созданных генератором Sora от OpenAI и в совокупности с заявлениями компании вычислили примерную производительность модели.
Sora может генерировать
максимум около 5 минут видео в час на одном графическом процессоре Nvidia H100, что эквивалентно
120 минутам видео на H100 в день.
По сравнению с LLM, вывод для моделей таких как Sora, на несколько порядков дороже.
По оценкам, 10,7 миллиона минут видео
ежедневно создаются искусственным интеллектом на TikTok и YouTube. — если все их авторы будут использовать Sora, то OpenAI потребуется
89000 графических процессоров NVIDIA H100.
Однако, принимая во внимание такие факторы, как пиковый спрос и загруженный трафик, предполагаемое количество графических процессоров Nvidia H100, необходимых при пиковом спросе, составляет примерно
720000 штук.
Однако это лишь готовые видео — авторы, скорее всего, создадут несколько видео-кандидатов, прежде чем выбрать лучший, в результате чего на одно загруженное видео в среднем приходится два кандидата.
Этот фактор также
удваивает требования к количеству чипов Nvidia.
Технический директор Мира Мурати рассказала, что OpenAI сделает Sora общедоступной позднее в этом году.
Остается надеется, что на этой планете хватит ИИ чипов для подобного.
13.7K views15:35