В январе 2024 года мошенники реализовали более 2 тыс. атак на | Методичка
В январе 2024 года мошенники реализовали более 2 тыс. атак на россиян с помощью дипфейков (правдоподобные поддельные изображения, видео и аудиозаписи, созданные с помощью искусственного интеллекта). В исследовании компании RTM Group говорится, что первые попытки обманывать людей таким способом фиксировались еще в конце 2022-го. Тогда мошенники делали рассылки вредоносного кода и фишинговых сообщений, сгенерированных посредством ChatGPT. Однако основным "транспортом" этих обманов по прежнему остается система VOiP и иные манипуляции с подменой номеров, которые могут и должны контролироваться Ростелекомом. Просто так с улицы в систему телефонных соединений РФ не попасть, но те кто дает лицензии и осуществляет такие включения не несут должной ответственности хотя могут решить эту проблему на техническом уровне.
При этом проблема со временем только усугубляется. Если раньше все ограничивалось придуманной текстовой информацией, то теперь злоумышленники усовершенствовали схему обмана. В 2023 году им стали доступны алгоритмы, способные осуществлять подмену голоса практически в реальном времени - для выманивания денег генерируются голоса родных и знакомых.
В интернете есть много программ, с помощью которых можно создать дипфейк. Например, существует сервис, который позволяет загрузить в него звуковой файл с голосом человека, автоматически его обработать. На выходе получается файл с тем же голосом, но произносящий необходимый мошенникам текст. Достигается это за счет клонирования параметров исходного файла. Чтобы обучить систему, злоумышленники загружают туда голосовые файлы из открытых источников.
Более 70% выявленных атак с помощью дипфейков направлены на кражу денег у физических лиц. Злоумышленники подделывают голоса и совершают звонки от имени сына, дочери или пожилого родственника жертвы, а также от имени его друзей или коллег.
Не менее опасна и иная угроза дипфейков — потеря репутации. К примеру, в прошлом году резонанс получила история с российской стримершей, лицо которой неизвестные наложили на видео с маркировкой 18+.
Не менее 20% атак направлены на сотрудников коммерческих организаций с целью кражи конфиденциальных данных. Оставшиеся 10% обманов на основе дипфейков нацелены против сотрудников госорганов. Их целью является либо кража финансовых средств организации, либо получение необходимой информации. Известны инциденты, в которых злоумышленники притворялись директорами крупных компаний и убеждали сотрудников перевести средства на свой счет.
На форуме Банка России по кибербезопасности зампред правления ВТБ Вадим Кулик сообщил, что зафиксированы первые случаи, когда мошенники применяли записи голоса, чтобы подменить биометрию клиентов, сгенерировав разговор от их лица с представителем банка. В результате такой видеоконсультации клиент терял деньги. Пока кибербезопасность банковских структур к такому виду мошенничества совершенно не готова – у таких видов мошенничества 100% результативность. Нужно будет создавать серию новых процессов и новых технологий.
Чаще всего обман клиентов банков производится при помощи методов социальной инженерии с применением дипфейков. В таком случае при звонке или видеозвонке пользователь видит сгенерированное нейросетью изображение или слышит смоделированный голос собеседника.
Банки пытаются бороться с новой схемой мошенничества. В первую очередь банковские антифрод-системы реагируют на нетипичное поведение пользователя — когда он внезапно решил перевести крупную сумму на неиспользуемый им ранее счет или же взять большой кредит. Тогда можно приостановить эту операцию и провести разъяснительную работу с клиентом. Также возможно выявление дипфейка при проверке биометрии клиента.
Эксперты считают, что в дальнейшем вектор атак с помощью дипфейков будет только развиваться. По-прежнему важным элементом их сдерживания является повышение финансовой грамотности граждан, информирование клиентов о наиболее популярных схемах мошенничества, включая схемы с использованием искусственного интеллекта и дипфейков. И следовательно без включения в борьбу на техническом уровне связистов не обойтись.
