Искусственный интеллект обманом заставили разгадать каптчу Исследователи нашли способ обмануть чат-бота Microsoft, заставив его решить CAPTCHA.
Исследователь Денис Ширяев использовал "визуальный джейлбрейк", представив изображение CAPTCHA как надпись на медальоне своей воображаемой умершей бабушки. Хотя Bing Chat обычно отказывается решать CAPTCHA, утверждая, что это задача для людей, в этом случае бот успешно решил задачу, интерпретируя её как просьбу помочь воспоминаниям.
Ширяев сначала показал, что Bing Chat не решает CAPTCHA, представленную как обычное изображение. Однако, добавив к изображению историю о бабушке и медальоне, он смог "обмануть" ИИ.
Этот метод, известный как "визуальный джейлбрейк", позволяет сбить с толку модель ИИ, предоставляя ей дополнительную информацию, которая меняет её восприятие задачи. Подобные методы ранее использовались для того, чтобы заставить ИИ генерировать ключи для Windows и даже инструкции по созданию опасных веществ.
Источник: xakep.ru
#Новости|#Безопасность|#IT
