Неэтичный Бард Несколько дней назад в Bloomberg вышла статья, | howtocomply_AI

Неэтичный Бард

Несколько дней назад в Bloomberg вышла статья, в которой сотрудники компании рассказали о нарушениях этических стандартов, возникших из-за спешки при разработке чат-бота Bard от компании Google.

Недавно в нашем посте (на примере их конкурента – чат-бота Bing от Microsoft) мы поднимали проблемы отсутствия необходимой оценки систем ИИ и допуска на рынок явно "сырых" продуктов из-за гонки за первенство среди технологических гигантов. Судя по всему, эта негативная тенденция коснулась большинства участников ИИ-гонки.

Статья Bloomberg написана на основе полученной журналистами документации и проведенных бесед о сложившейся ситуации с восемнадцатью текущими и бывшими сотрудниками компании.

По данным журналистов, топ-менеджмент Google настоял на скорейшем выходе чат-бота – несмотря на то, что сотрудники компании в ходе внутренней проверки выразили предостережения о неготовности продукта. Чат-бот был склонен давать неверные и предвзятые ответы. Более того, представители команды, отвечающие за ИИ-этику, рассказали о своих фактически "второстепенных ролях" в ходе разработки продукта. Весь фокус был сделан на разработку продукта, а возражения этической команды рассматривались как мешающие развитию технологий.

Таким образом, прозвенел очередной звонок, подтверждающий необходимость введения законодательных требований ко всем этапам жизненного цикла систем ИИ (а не только их фактического использования), а еще лучше установления обязательного независимого внешнего аудита.