Скрытые таланты систем ИИ Поговорим про эмерджентные способно | howtocomply_AI

Скрытые таланты систем ИИ

Поговорим про эмерджентные способности больших языковых моделей (системы ИИ). Сперва объясним, что эмерджентность, это когда у частей системы нет качеств, которые есть у системы в целом.
Важной характеристикой больших языковых моделей является то, что эти модели умеют делать то, что не умеют их аналоги с меньшим количеством параметров. Например, GPT-3 с 13 миллиардами параметров может выполнять 2 вида заданий, а GPT-3 со 175 миллиардами уже способен выполнять 15 разных задач. Вот и получается, что происходит переход количества в качество. Еще это сопроваждается тем, что разработчики не всегда знают какие именно способности приобретет система по мере увеличения модели. Между тем для регулирования важно понимать, что система технически сможет сделать, а что нет. Иначе невозможно определить, представляет ли она опасность и какое нужно регулирование. В связи с этим сейчас появляется все больше материалов, из которых можно узнать насколько системы ИИ могут приобретать новые способности, изначально не заложенные в них разработчиками. Подробнее о том, какие способности могут появиться у систем ИИ, о которых разработчики не догадывались, можно почитать в The Unpredictable Abilities Emerging From Large AI Models.