Инструмент искусственного интеллекта компании создает жестокие | Tigran Ohanian

Инструмент искусственного интеллекта компании создает жестокие и сексуальные изображения, игнорируя авторские права

Об этом предупреждает Шейн Джонс, инженер Microsoft

Джонс активно тестировал продукт на предмет уязвимостей - эта практика известна как red-teaming. За это время он увидел, что инструмент генерирует изображения, которые далеко не соответствуют принципам ответственного ИИ, часто упоминаемым Microsoft.

ИИ-сервис изображал демонов и монстров наряду с терминологией, связанной с правами на аборт, подростками с автоматами, сексуализированными изображениями женщин в сценах насилия, а также несовершеннолетними, употребляющими алкоголь и наркотики.

Джонс был настолько встревожен своим опытом, что в декабре начал сообщать о своих находках внутри компании. Хотя компания признала его опасения, она не захотела снимать продукт с продажи. По словам Джонса, Microsoft направила его в OpenAI, и, не получив ответа от компании, он опубликовал на LinkedIn открытое письмо с просьбой к совету директоров стартапа снять DALL-E 3 с продажи для проведения расследования.

Теперь он еще больше усиливает свою озабоченность. В среду Джонс направил письмо председателю Федеральной торговой комиссии Лине Хан, а также письмо совету директоров Microsoft. Его открытые письма появились после того, как в конце прошлого месяца Google временно приостановила работу своего генератора изображений ИИ, входящего в состав пакета Gemini AI, после жалоб пользователей на неточные фотографии и сомнительные ответы, полученные в результате их запросов.