2024-04-11 15:22:02
Границы между технологическим прогрессом и злонамеренным использованием становятся всё более размытыми, что отражает последнее
открытие исследователей из
Proofpoint.
Они установили, что
Scully Spider (или TA547) начала применять в своих атаках скрипт
PowerShell, созданный, с применением ИИ, открывая новую эру в киберпреступности, где ИИ становится оружием в руках хакеров.
С марта этого года скрипт был задействован в кампании по рассылке электронной почты в
Германии, выдавая себя за немецкий бренд
Metro cash-and-carry.
Целью атаки была доставка вредоносной ПО
Rhadamanthys с целью последующей кражи информации.
TA547 активна с 2017 года и ранее задействовала разнообразный арсенал вредоносного ПО для систем
Windows и Android, но в последнее время отдавая предпочтение модульному грабберу
Rhadamanthys, постоянно расширяющему свои возможности.
Признаки использования ИИ в создании скрипта, такие как исключительная детализация комментариев и использование хеш-символов, указывают на возможное применение систем, подобных
ChatGPT, Gemini или CoPilot.
Уж слишком идеально был написан код, что не соответствует обычной практике разработчиков, чьи комментарии зачастую скупы и содержат бытовые ошибки.
Такое использование ИИ может свидетельствовать о генерации кода с безупречной грамматикой и подробным описанием, что ранее было нехарактерно для вредоносных ПО.
Сторонний эксперимент, проведенный специалистами с использованием
ChatGPT-4, также подтвердил возможность создания подобных сценариев ИИ, что еще больше усиливает опасения относительно новых методов кибератак.
Кроме того, финансово мотивированные злоумышленники и прогосударственные APT уже начали активно использовать ИИ для создания фишинговых писем, сканирования сетей и разработки фейковых страниц, что открывает новые горизонты для махинаций в киберпространстве.
Подобно выстрелу в пустоту,
OpenAI сказала, что приняла меры для блокировки аккаунтов, связанных с APT, которые использовали их систему для злонамеренных целей.
ИИ — штука удобная, но не совершенная, и непонятно, по каким критериям будут оценивать вредоносную активность аккаунтов.
Также интересно, что предложат мастодонты кибербезопасности на новые вызовы, поскольку хакеры не стоят на месте и занимаются разработкой собственных ИИ-инструментов для своих злодеяний.
13.5K views12:22