Нейросеть ВКонтакте поможет защитить пользователей от оскорбле | Brodetskyi. Tech, VC, startups

Нейросеть ВКонтакте поможет защитить пользователей от оскорблений и травли в комментариях сообществ

Администраторам сообществ ВКонтакте стал доступен специальный фильтр для борьбы с враждебными высказываниями на основе нейросети. Функция уже появилась у владельцев половины пабликов, а скоро станет доступна всем.

Сейчас алгоритмы умеют определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики продолжают тестирование фильтра: в будущем он может научиться распознавать и другие признаки нетерпимости — например, травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают лишь в 1% случаев.

Тестирование фильтра было начали в ноябре 2020 года. С тех пор функцией воспользовались руководители 10% всех сообществ ВКонтакте — это 13 млн публичных страниц, групп и мероприятий. Администраторы оценили работу нейросети: среди тех, кто подключил фильтр, от него отказались только 1,8%. Сейчас нейросеть правильно определяет угрозы в 80% случаев, и команда продолжает работать над её улучшением.

#реклама #текстприслан