ChatGPT создает вирусы-мутанты, которые невозможно обнаружить
Нейросеть ChatGPT оказалась отличным инструментом для создания супервирусов. С ее помощью киберпреступники делают «мутирующие» вирусы, которые обычные системы безопасности почти не способны обнаружить.
Речь идет о вирусах с полиморфным кодом, то есть кодом, способным меняться при каждом запуске программы, но сохраняющим свою основную функцию (семантику). Так, инженер по безопасности компании HYAS InfoSec Джефф Симс опубликовал технический документ с очень детальным описанием своего экспериментального проекта BlackMamba. Под этим наименованием скрывается программа — полиморфный кейлоггер, разработанный при участии ChatGPT и направляющий ей запросы при каждом запуске. Еще один пример продемонстрировала компания CyberArk, опубликовав статью о том, как внедрение кода из выдачи ChatGPT позволяет изменять вредоносные скрипты таким образом, чтобы те с легкостью обходили антивирусную защиту и оставались незамеченными для систем безопасности.
При этом нельзя сказать, что современные чат-боты, основанные на нейросетях, не имеют никаких средств защиты от тех, кто хочет использовать их во вред. Наоборот, большая их часть, в том числе и ChatGPT, оснащены многочисленными фильтрами, не позволяющими создавать вредоносное ПО. Однако большинство таких фильтров бесполезны — пользователи быстро научились обходить их и получать от ИИ то, что им нужно.
src
