Разработка методов атаки и защиты ИИ Искусственный интеллект | Физики и Юрики

Разработка методов атаки и защиты ИИ

Искусственный интеллект становится все более востребованным. Он уже умеет выполнять различные творческие функции, которые еще совсем недавно могли делать только люди.

Недавно в России завершились ежегодные соревнования по машинному обучению Data Fusion Contest 2023 с призовым фондом 2 млн рублей. Организатором мероприятия уже третий год выступает банк ВТБ.

Участникам было предложено на выбор два варианта «состязаний»: организовывать атаку на искусственный интеллект или разрабатывать методы по его защите. Такой вариант соревнования позволил выяснить насколько реальна угроза атаки на ИИ.

Проверять возможности атак и защиты участникам предстояло на реальной бизнес-задаче, а именно предсказании дефолта клиента по кредиту.