2021-05-25 08:12:54
#КопилкаИИ
А ВАШЕ ИИ ПО ПРОШЛО АУДИТ РЕГУЛЯТОРА? Спойлер: ЕС создает "European Artificial Intelligence Board"В апреле Европейская Комиссия (ЕК) обнародовала предложения по регулированию ИИ.
Документ является настолько же важным для технологической среды как принятый три года назад регламент по GDPR.
ЕС планирует создать новый орган -
European Artificial Intelligence Board, который будет накладывать дополнительные обязательства на поставщиков и пользователей услуг по оценке, регистрации и соответствию (комплаенсу) систем ИИ.
Ключевые пункты от будущего регулятора ЕС планирует сформировать начальный перечень ИИ продуктов с высокой степенью риска.
В случае использования рисковых систем ИИ, ЕК планирует ввести штрафы.
Хоть регламент и направлен на поощрение инноваций, но предлагает государствам-членам создать внутренние правила по применению ИИ.
Государства-участники обязаны имплементировать нормы в национальное законодательство, так же как это уже происходило при внедрении GDPR.
О серьезных проблемах поставщики систем ИИ должны сообщать в течение 15 дней. После их обнаружения, системы ИИ могут проходить периодические проверки.
Очевидно, что в ближайшее время юристы и ИТшники будут сотрудничать вместе, чтобы подготовить внутренние процессы компаний к будущему аудиту.
ИИ в организациях
Алгоритмы усложняются, когда в их структуру добавляется поддержка процессов принятия решений человеком.
Регламент частично является реакцией на растущую озабоченность того, насколько решение или результаты ИИ предвзятые, и кто за это может нести ответственность.
Организациям, которые используют, якобы по уважительным причинам, методы ускорения решений придется убеждать регуляторов, что такие методы не будут противоречить Регламенту.
Для подготовки ИИ продукта к аудиту важно будет определить:
точную цель, для которой используются алгоритмы
в чем конкретно помогают новые решения
где и какие алгоритмы используются
какие типы данных используются как входные данные
всех стейкхолдеров и их возможные беспокойства, начиная от их прав и заканчивая законными ожиданиями
дополнительные гарантии перед покупкой продукта
Демонстрация компанией того, что она продумала рисковые моменты заранее, будет еще и хорошим маркетинговым инструментом.
Стремление к открытости в процессах и готовность отвечать пользователям поможет пиару, потенциальным инвестициям и продвижению продукта.
Лайфхак для компанийЗадача компаний - построить многоуровневую структуру, способную отвечать за надзор, который должен строиться на четких принципах по согласованной методологии.
Как вариант можно создать консультационную комиссию, члены которой могут быть как сотрудниками компании, так и внешними специалистами.
ВЫВОД
Дополнительное нормативное регулирование почти всегда приводит к дополнительным затратам и замедляет развитие бизнеса.
Но соблюдение правил может помочь технологиям завоевать доверие нерешительных клиентов.
Поставщики ИИ, которые будут отвечать требованиям Регламента, смогут маркировать свой продукт знаком «CE» - знаком, который является единственной общей маркировкой в странах ЕС, подтверждающей соответствие продукции стандартам безопасности для человека, имущества и окружающей среды.
Различные сектора будут реагировать по-разному.
Большинство участников рынка согласятся с новым регулированием.
Хотя будет много споров относительно сферы применения и подхода к категоризации рисков.
И для этого компаниям понадобится привлечь специалистов, чтобы перестроить внутренние процессы.
В прошлый раз мы рассматривали Как ИИ работает в судах США, Бразилии и Китая.
_______________ Источник:
Artificial intelligence act
Сoordinated plan on artificial intelligence 2021 review
The new EU Regulation for AI is here, will you be ready for an AI audit
258 viewsedited 05:12