Исследование показало, что хакеры все чаще обходят системы безопасности с помощью ИИВ недавнем исследовании от Recorded Future, затрагивающем аспекты кибербезопасности, освещается потенциал использования обширных языковых моделей (LLM) для разработки самообучающегося вредоносного программного обеспечения, способного обходить защитные механизмы, вроде правил YARA.
Проведенные эксперименты демонстрируют, что ИИ может эффективно адаптировать код малвари для его скрытия от систем обнаружения на основе YARA, уменьшая тем самым шансы его распознавания. Эта методика уже привлекла внимание киберпреступников, которые используют ее для создания модифицированных фрагментов вредоносного кода, компоновки фишинговых сообщений и анализа потенциальных целей.
В одном из примеров, Recorded Future обратилась к LLM с просьбой изменить код зловреда STEELHOOK таким образом, чтобы он оставался незамеченным правилами YARA без потери функционала и без ошибок в синтаксисе. Модифицированная версия успешно миновала детекцию.
Исследование подчеркивает, что в 2024 году особое распространение приобретут дипфейки и операции по влиянию. Дипфейки, создаваемые с помощью открытых инструментов, могут имитировать высокопоставленных лиц, а аудио и видео, сгенерированные ИИ, могут усиливать эффективность кампаний социальной инженерии.
Снижение стоимости создания контента облегчит подделку веб-сайтов и СМИ. Разработчики вредоносного ПО смогут использовать ИИ для обхода систем обнаружения, а злоумышленники – для сбора разведданных, в том числе об уязвимых элементах критической инфраструктуры.
Авторы исследования советуют организациям серьезно относиться к защите своих данных, быть внимательными при обращении по видео связи со своими коллегами и быть готовыми к более сложным методам кибератак с использованием ИИ.
Источник: www.securitylab.ru
#Новости|#Безопасность
