Дорого, энергозатратно, рискованно, перспективно: о состоянии ИИ в 2023 году
Стэнфордский институт ИИ (HAI) подготовил новый доклад об актуальном индексе ИИ. Основная мысль документа — произошел резкий скачок (без малого на 60%) в развитии по сравнению с 2022 годом (главные успехи — у генеративных моделей ИИ). Также можно выделить следующие тенденции:
Большие модели становятся все дороже. Из всех систем машинного обучения языковые модели поглощают больше всего вычислительных ресурсов. Если обучение GPT-2 в 2019 году обходилось в менее $1 млн, то спустя всего пару лет Megatron-Turing Natural Language Generation обошлась в $11,3 млн.
Углеродный след ИИ колоссален. Оценить его не так-то легко, однако команда AI Index разработала свою методику, учитывая количество параметров в модели, энергоэффективность ЦОДов и тип производства электроэнергии. Это позволило выяснить, что даже одна из самых «экологичных» моделей — BLOOM — выбрасывает СО2 больше, чем средний житель США за год (25 метрических тонн). Абсолютный рекордсмен GPT-3 — 502 тонны.
Впервые за десятилетие частные инвестиции в ИИ сократились. Они упали примерно на треть с 2021 года — до $189,6 млрд (в 2022 году частные инвестиции в стартапы в целом снизились). Зато активно подключается госсектор: если в 2022 году необоронные правительственные учреждения США потратили $1,7 млрд на разработки в области ИИ (на 13,1% больше, чем в 2021-м), то в 2023-м подключается уже Минобороны США, увеличив финансирование на 26,4%.
Треть исследователей считают, что ИИ может привести к катастрофе. Среди экспертов больше оптимистов: 73% ожидают, что ИИ приведет к революционным социальным изменениям. Но есть и другие, и их немало (36%) — они считают, что ИИ может вызвать «катастрофу ядерного уровня». Авторы исследования подчеркивают, что это очень интересные результаты, поскольку все респонденты — «в основном люди, которые знают, о чем говорят».
src
