ИИ для безопасности в Сети
Роскомнадзор и Главный радиочастотный центр совместно с аналитическим центром MindSmith и «Ростелекомом» выпустили исследование «Инструменты ИИ в руках злоумышленников — классификация угроз и способы противодействия».
Аналитики определили 12 приоритетных направлений применения искусственного интеллекта для обеспечения безопасности интернет-пользователей:
обнаружение дипфейков
определение контекста происходящего на видео
автоматизация мониторинга и модерации контента
распознавание лиц
извлечение смысла из текста
поддержка проверки фактов
распознавание символики
извлечение и анализ метаданных
распознавание эмоций
поддержка решений при информационных атаках
генерация контента
рекомендация контента
Ключевые выводы:
Из-за автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения ИИ.
Наличие отечественных моделей и использование отечественных наборов данных — вопрос национальной безопасности.
Государству необходимо разработать процедуры тестирования и оценки моделей ИИ, чтобы поддерживать перспективные проекты и их разработчиков.
Научно-технический центр ГРЧЦ
