Большие языковые модели и персональные данные: что знают о вас нейросети?
Технологии искусственного интеллекта и анализа больших данных позволяют получать знания о человеке на таком уровне, который вчера казался невозможным и нереалистичным, заявил сегодня на Научно-техническом совете Главного радиочастотного центра на #ЦИПР
Роман Жуков, руководитель отдела прикладных исследований и разработок перспективных решений сотовой связи Научно-исследовательского центра телекоммуникаций МФТИ.
«Люди делятся информацией о себе с чат-ботами, затем нейросеть ее обобщает и кластеризует, выясняет и заполняет недостающие данные, в том числе сложно детектируемые метрики. Разработчики заявляют, что в открытой версии GPT4 нет деструктивного контента. Но есть такое понятие, как «галлюцинации» нейросетей. Они могут выдавать ответы, которые наносят урон пользователю», — сказал он.
По словам эксперта, еще одна угроза в области персональных данных — технологии создания дипфейков. Они позволяют взламывать системы биометрической идентификации: слабые и некачественные данные (фотография или запись голоса) можно улучшить до необходимого для биометрической идентификации качества.
