Layer победил свитер-невидимку Студенты Мэриленда создали свитер-невидимку, принт которого «ослепляет» камеры с AI и не даёт распознать человека в кадре. Но так ли слабы нейросети, как пишут авторы эксперимента?
Команда, развивающая сервис распознавания объектов Layer, точно может с этим поспорить: наше решение этот свитер прекрасно распознает.
Раньше учёным уже удавалось запутать нейросети. Обман компьютерного зрения состоял в том, чтобы вынудить AI пометить всё изображение как нечитаемое.
Студенты Мэриленда нашли другой способ. Они заставили нейросети не замечать человека в определённом свитере, но видеть остальных людей, изображённых на принте.
Для этого они взяли набор данных, на котором обучается алгоритм Computer Vision (детектор). Затем пропустили данные через детектор и получили шаблон, по которому компьютер распознаёт человека.
Шаблон — это математическая функция. К нему применили алгоритм градиентного спуска и получили «антишаблон» — противоположные значения функции. Готовый «антишаблон» уже преобразовали в принт и разместили на свитере. Для детектора человек в таком свитере выглядит как объект, распознавать который нейросеть не обучали.
Но нейросеть Layer умеет справляться с такими уловками: от неё не ускользнёт ни один свитер
