Инстаграм массово заполонили дипфейки-аккаунты — их создатели зарабатывают на этом тысячи долларов, а для Meta это становится проблемой. Коротко пересказываю большой материал издания 404 Media, как устроен этот рынок ИИ-инфлюенсеров.
На видео выше — пример типичного фейкового аккаунта несуществующей девушки. Схема в упрощённом виде выглядит так: с помощью нейросетей создаётся новое лицо, дальше оно накладывается на тело реальной девушки с хорошими охватами. Большинство видео не содержат речи, чтобы обман было сложнее распознать.
Раскачав аккаунт до сотен тысяч подписчиков, владельцы страниц уводят аудиторию на Patreon или Fanvue, где продают подписки за сумму от $5 до $20 в месяц. Издание не приводит цифр, сколько на этом зарабатывают авторы дипфейков, но судя по числу таких аккаунтов — речь идёт о тысячах, а где-то десятках тысяч долларов в месяц.
Для поиска девушек с привлекательной внешностью мошенники также используют OnlyFans. В некоторых случаях жертвами дипфейков становятся и знаменитости: для создания ИИ-инфлюенсера уже использовались тела Марго Робби и Дуа Липы. Meta банит подобные профили в случае жалоб, но этот процесс не автоматизирован — в результате число таких аккаунтов растёт.
Выглядит это очень крипово — даже не представляю, каково девушке, которая нашла такой дипфейк на саму себя.
