Исследователи нашли в даркнете почти 3000 сообщений с обсуждением чат-ботов и ИИ
В даркнете изучили сообщения на тему использования ChatGPT и аналогов. В 2023 году на теневых форумах и в Telegram-каналах найдено 2890 таких постов.
Обсуждения можно разделить на следующие направления:
Злоупотребления самим ChatGPT. Например, в одном из сообщений предлагалось использовать GPT для генерации полиморфного вредоносного кода с заданной функциональностью.
Джейлбрейки. Чтобы LLM могла давать «запрещенные» ответы, хакеры прибегают к различным джейлбрейкам. Они помогают открывать дополнительную функциональность у ChatGPT и других похожих сервисов.
Малварь. Также участники хак-форумов активно обмениваются идеями для использования ИИ для усовершенствования вредоносов и повышения эффективности кибератак в целом.
Опенсорс и программы для пентеста. Например, на GitHub можно найти опенсорсную утилиту на базе генеративной модели, которая предназначена для обфускации кода на PowerShell.
