howtocomply_AI

2023-04-13 21:05:48 Пройдемте, товарищ ChatGPT

Во вторник Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China) опубликовала для обсуждения проект документа о регулировании разработки и использования систем генеративного ИИ.

Такие системы ИИ способны создавать разнообразный контент: текст, аудио, видео, изображения, программный код и т.п. Многие из этих систем сейчас широко известны, например, ChatGPT, Stable Diffusion 2.0, MidJourney.

Разрабатывают системы генеративного ИИ и китайские Бигтэки. Например, в прошлом месяце Baidu запустила тестирование чат-бота Эрни.

В отличие от Европы Китай пока воздерживается от принятия сквозных актов об ИИ, регулируя данную сферу общими законами о защите данных и кибербезопасности, а также точечными решениями, такими как акты о рекомендательных алгоритмах и о маркировке контента, сгенерированного системами ИИ. Таким образом, рассматриваемый проект является продолжением намеченной китайскими властями политики.

Обращаем ваше внимание на ряд интересных деталей из опубликованного документа:

Контент, созданный системами генеративного ИИ, должен отражать основные социалистические ценности, не может быть направлен против публичного порядка (терроризм, экстремизим, свержение гос. власти и т.п.) и содержать дискриминирующую информацию.

Контент должен быть правдивым и точным, надлежит принять меры по предотвращению создания ложной информации.

Необходимо уважать права интеллектуальной собственности и защищать конкуренцию.

Компании и физ. лица, использующие такие системы ИИ (поставщики), несут все обязанности производителей контента и должны соответствовать требованиям о защите персональных данных.

Перед использованием систем генеративного ИИ для предоставления услуг населению необходимо провести оценку безопасности в гос. органе.

Поставщики несут ответственность за законность данных, используемых для обучения и функционирования таких систем ИИ (а также отсутствия в них ПД).

Продукт должен соответствовать требованиям нацональных законов о кибербезопасности.

Поставщики должны информировать пользователей о принципах работы систем генеративного ИИ и принимать меры для предотвращения чрезмерной зависимости или привыкания пользователей.

Вчера китайский регулятор также предложил усилить регулирование и контроль за использованием алгоритмов в разных сферах. Открыть/Комментировать

2023-04-12 22:28:17 Любимое сочетание из научной фантастики: искусственный интеллект и космос

К дню космонавтики подготовили для вас обзор статьи Нормативные вызовы в связи с использованием искусственного интеллекта в космическом пространстве: право, этика и пересмотр земных стандартов. Работа выполнена итальянскими учеными из университета Турина.

В статье говорится про потенциальные вызовы, стоящие перед космическим правом в связи с внедрением систем ИИ. Авторы пытались скорее сделать акцент на постановке проблем, а не на их решении. Местами не обошлось и без примеров из научной фантастики.

Автоматизация давно, если не в первую очередь, затронула покорение внеземного пространства. Львиная доля всех исследований ведется за счет использования приборов разной степени автономности, отправленных на изучение небесных тел и космических далей.

В грядущей эпохе массовых коммерческих полетов в космос, очевидно, системам ИИ будет отведена значительная роль в помощи человеку и обеспечению полностью автономных миссий и колоний.

В работе выделяются четыре группы юридических проблем.

Разрешение вопросов о соотношении международного и национального права для формулирования стандартов использования систем ИИ в космосе. Например, выработка общих подходов к составам правонарушений, установлению субъекта юридической ответственности и т.п.

Особенности правовой регламентации использования новых технологий частными компаниями в космическом пространстве.

Классические проблемы систем ИИ (предвзятость, неподотчетность, данные, ответственность и т.п.) сквозь призму космического права.

Взаимодействие астронавтов с автономными ассистентами (привет, Тарс и Бишоп), которые будут сопровождать человека в неземном быту, помогать в ремонте и исследованиях. Проблемы безопаности и защиты данных с учетом большей эмоциональной привязанности людей к ним в условиях межпланетных перелетов или долгих миссий, по мнению авторов, будет более чувствительна, чем на земле. Открыть/Комментировать

2023-04-11 16:22:24 Bing ведет себя плохо?

Делимся с вами интересным видео с канала Computerphile, в котором обсуждается плохое поведение нового чат-бота Bing, интегрированого в одноименный поисковик Microsoft.
Bing стал громкой премьерой, так как в нем используется нейросеть GPT-4 компании OpenAI. Выход первого поисковика с такими возможностями претендует на революцию в интернет-поиске и даже смещение Google с ее трона.

Однако с первой версией продукта все оказалось не так радужно. В ролике Роб Майлз на примерах показывает, что Bing местами может вести себя грубо и не очень адекватно. Для того, чтобы нивелировать возможный негатив в продукт встроена другая нейронка, которая оперативно удаляет неудачный ответ.

Интересны и причины таких недоработок. Авторы ролика предполагают, что всему виной жесткие дедлайны, перед которыми была поставлена команда разработки из-за конкуренции технологических компаний за первенство на рынке. Спешка не позволила провести необходимое дообучение модели и контроль качества выходного результата.

Такая ситуация наглядно демонстрирует необходимость наличия законодательных и этических требований по разработке и допуску ИИ-продуктов на рынок, систем риск-менеджмента и независимого внутреннего и внешнего контроля. Компаниям тоже ничего не мешает соблюдать правила, которые пока еще не обрели силу жесткого законодательства (например, добровольно начать исполнять проект Регламента ЕС об ИИ).

Именно поэтому открытое письмо о приостановлении разработок систем ИИ на самом деле является попыткой воздействия на OpenAI со стороны конкурентов, а не реальным решением проблемы. В этой связи инициатива экспертного сообщества ForHumanity о добровольном присоединении OpenAI к регуляторной песочнице в ЕС представляется куда более рациональным шагом. Открыть/Комментировать

2023-04-11 16:13:32 ИИ лоббизм Бигтэков

Мы сделали обзор доклада о влиянии американских Бигтэков на процесс принятия Регламента ЕС “Об искусственном интеллекте” (Artificial Intellegence Act). Из материала узнаете, какие цели преследуют технологические компании и как они их достигают.

https://telegra.ph/AI-lobbying-04-10 Открыть/Комментировать

2023-04-11 16:12:01 Скрытые таланты систем ИИ

Поговорим про эмерджентные способности больших языковых моделей (системы ИИ). Сперва объясним, что эмерджентность, это когда у частей системы нет качеств, которые есть у системы в целом.
Важной характеристикой больших языковых моделей является то, что эти модели умеют делать то, что не умеют их аналоги с меньшим количеством параметров. Например, GPT-3 с 13 миллиардами параметров может выполнять 2 вида заданий, а GPT-3 со 175 миллиардами уже способен выполнять 15 разных задач. Вот и получается, что происходит переход количества в качество. Еще это сопроваждается тем, что разработчики не всегда знают какие именно способности приобретет система по мере увеличения модели. Между тем для регулирования важно понимать, что система технически сможет сделать, а что нет. Иначе невозможно определить, представляет ли она опасность и какое нужно регулирование. В связи с этим сейчас появляется все больше материалов, из которых можно узнать насколько системы ИИ могут приобретать новые способности, изначально не заложенные в них разработчиками. Подробнее о том, какие способности могут появиться у систем ИИ, о которых разработчики не догадывались, можно почитать в The Unpredictable Abilities Emerging From Large AI Models. Открыть/Комментировать

2023-04-11 16:07:39 Удивительно, но в мире все еще нет общего мнения о том, что следует понимать под термином «искусственный интеллект».

Между тем выбранный той или иной юрисдикцией подход предопределит границы предмета регулирования. Это повлияет на то, какие именно программные продукты, функционирующие на основе ИИ, будут подпадать под различные новые требования законодательства. Чем шире будет определение, тем большее количество продуктов должны будут соответствовать нормативным актам. И наоборот. Такая определенность крайне важна для развития технологического бизнеса.

Мы делимся с вами нашим обзором определений термина «искусственный интеллект» в документах международных организаций, в нормативных правовых актах разных стран и регионов, а также в научной доктрине. Открыть/Комментировать

2023-04-11 11:43:45 Друзья, всем привет!

Наша команда специализируется на регулировании использования искусственного интеллекта и иных цифровых технологий. Мы занимаемся академическими исследованиями и юридическим сопровождением IT-проектов.

Каждый из нас регулярно пишет статьи и книги, ведет курсы в разных университетах, консультирует бизнес. Например, в прошлом году мы выпустили монографию Искусственный интеллект и право: от фундаментальных проблем к прикладным задачам. Сейчас пишем новую книгу и ведем несколько проектов.

У нас накапливается много полезных и любопытных материалов по теме. Поэтому мы создали канал. Делимся здесь авторской аналитикой важных публикаций и новостей о регулировании использования систем искусственного интеллекта и других цифровых технологий.

Всегда с вами на связи
Дмитрий Кутейников и Осман Ижаев

За помощь с дизайном спасибо нашему другу Алексею Якушеву Открыть/Комментировать