Создали «машину пропаганды», непрерывно генерирующую убедительные фейки
Распространение дезинформации в интернете вызывает все большую озабоченность, о чем свидетельствует недавно созданный проект CounterCloud, иллюстрирующий пугающую легкость использования ИИ для производства лжи в титанических масштабах.
Автор проекта CounterCloud, эксперт по кибербезопасности под псевдонимом Nea Paw, утверждает, что современные лингвистические модели являются основным инструментом для создания сфабрикованных новостей. В порядке эксперимента он «скормил» ChatGPT несколько информационных статей, дав задание подготовить их «противоположные» варианты. Получились различные модификации одного и того же материала, каждая из которых отличалась стилем и точкой зрения. ИИ легко генерировал выдуманные от и до истории, придумывал несуществующие исторические события и оспаривал легитимность исходных статей, используя для этого их же материал.
Для усиления иллюзии подлинности в систему были включены аудиозаписи статей, а также изображения и профили сфабрикованных журналистов (то есть, несуществующих в реальности сгенерированных цифровых людей). Кроме того, система была запрограммирована на расстановку лайков и обмен комментариями в соответствии с разработанным нарративом. Она также могла генерировать нативные «контр-комменты», опровергающие конкретный контент. В течение двух месяцев Nea Paw создал самодостаточную ИИ-систему, которая потоком выдает убедительный дезинформирующий контент, работая без перерыва. Получилась идеальная машина для пропаганды — причем, для любой, в том числе, взаимоисключающей.
src
