Пройдемте, товарищ ChatGPT Во вторник Государственная канцеля | howtocomply_AI

Пройдемте, товарищ ChatGPT

Во вторник Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China) опубликовала для обсуждения проект документа о регулировании разработки и использования систем генеративного ИИ.

Такие системы ИИ способны создавать разнообразный контент: текст, аудио, видео, изображения, программный код и т.п. Многие из этих систем сейчас широко известны, например, ChatGPT, Stable Diffusion 2.0, MidJourney.

Разрабатывают системы генеративного ИИ и китайские Бигтэки. Например, в прошлом месяце Baidu запустила тестирование чат-бота Эрни.

В отличие от Европы Китай пока воздерживается от принятия сквозных актов об ИИ, регулируя данную сферу общими законами о защите данных и кибербезопасности, а также точечными решениями, такими как акты о рекомендательных алгоритмах и о маркировке контента, сгенерированного системами ИИ. Таким образом, рассматриваемый проект является продолжением намеченной китайскими властями политики.

Обращаем ваше внимание на ряд интересных деталей из опубликованного документа:

Контент, созданный системами генеративного ИИ, должен отражать основные социалистические ценности, не может быть направлен против публичного порядка (терроризм, экстремизим, свержение гос. власти и т.п.) и содержать дискриминирующую информацию.

Контент должен быть правдивым и точным, надлежит принять меры по предотвращению создания ложной информации.

Необходимо уважать права интеллектуальной собственности и защищать конкуренцию.

Компании и физ. лица, использующие такие системы ИИ (поставщики), несут все обязанности производителей контента и должны соответствовать требованиям о защите персональных данных.

Перед использованием систем генеративного ИИ для предоставления услуг населению необходимо провести оценку безопасности в гос. органе.

Поставщики несут ответственность за законность данных, используемых для обучения и функционирования таких систем ИИ (а также отсутствия в них ПД).

Продукт должен соответствовать требованиям нацональных законов о кибербезопасности.

Поставщики должны информировать пользователей о принципах работы систем генеративного ИИ и принимать меры для предотвращения чрезмерной зависимости или привыкания пользователей.

Вчера китайский регулятор также предложил усилить регулирование и контроль за использованием алгоритмов в разных сферах.