Как нейросети развивались в 2023? Спросили об этом Константина | ТЕХНО: Яндекс про технологии
Как нейросети развивались в 2023? Спросили об этом Константина Лахмана, руководителя отдела компьютерного зрения и ML-приложений Яндекса.
«Основным трендом 2023-го стал прорыв в качестве всех генеративных моделей: звуковых, текстовых, визуальных. Например, в марте OpenAI сменила "движок" ChatGPT на языковую модель GPT-4, что сильно повлияло на качество работы чат-бота. Теперь на её базе многие стартапы строят свои продукты, а в гонку генеративных моделей включились все крупные компании — Meta*, Google, Apple, Baidu. *Компания Meta признана экстремистской организацией и запрещена в РФ
Всё это было бы невозможно без алгоритмов Reinforcement Learning. За счёт небольшой экспертной разметки они позволяют превратить модель из закрытой базы знаний в инструмент, готовый следовать пользовательским инструкциям, а также помочь справиться с галлюцинациями.
Еще один рубеж 2023-го — появление мультимодальных моделей. Они умеют анализировать изображения согласно инструкциям на естественном языке, например, оценивать дорожные ситуации. Многие из них пока работают нестабильно, но очевидно, что они будут быстро улучшаться.
Не отставала и область генерации изображений и видео. За прошедший год мы увидели релизы нескольких версий Midjourney, выход DALL-E 3 и Stable Video Diffusion. Важно, что это работает не только в узких доменах, а для всего многообразия визуальных образов.
Крупным направлением стала разработка подходов к сжатию и ускорению моделей. Раньше многим из них нужны были кластеры GPU, но сейчас появились легковесные нейросети которые можно запускать на телефоне или ноутбуке.
Яндекс не отстает от лидеров индустрии: за прошедший год мы выпустили несколько релизов генеративных нейросетей. Так, YandexGPT заработала в Поиске и в Алисе, а YandexART — в Шедевруме и других сервисах.
Сервисы на основе генеративных нейросетей прочно входят в нашу жизнь и осваивать этот инструмент стоит уже сейчас. В том числе и разработчикам, ведь функции генерации кода становятся всё лучше».
