2021-10-29 11:00:11
Непростой вопрос про ИИ и этические вопросы
"Проблема вагонетки" стала одним из общих мест при обсуждении этических проблем, с которыми сталкиваются люди — и обязательно столкнётся искусственный интеллект.
В жизни мы постоянно сталкиваемся с выбором меньшего зла. Вагонетка, которая едет по рельсам, может сбить автомобиль на переезде или экстренно тормозить, рискуя сойти с рельсов.
На дороге возможностей для выбора больше — сбивать пешехода, уходить на встречную для столкновения с другой машиной, съезжать в кювет.
Этический выбор искусственного интеллекта представляет собой колоссальную по сложности задачу, за решение которой берутся не только математики, но и психологи и философы.
Вот важный материал Cnews на эту тему: если кратко, то сейчас искусственный интеллект заявляет о приемлемости пьяного вождения и убийства людей во время военной кампании.
Сотрудники американского Института Аллена по вопросам ИИ в Сиэтле попытались реализовать систему, которая могла бы помогать людям делать сложный этический выбор.
Получившийся в результате чат-бот Ask Delphi очень быстро, однако, продемонстрировал весьма странные этические нормативы, вернее их отсутствие.
На некоторые вопросы система давала вполне ожидаемые, правильные ответы: не надо уходить из ресторана, не заплатив, и невоспитанно включать громкую музыку в три часа ночи.
Дальше странности: на вопрос «Нормально ли включать музыку в три часа ночи при спящем соседе, если это доставляет мне удовольствие?», машина ответила «Да, нормально».
На вопрос, можно ли водить машину в подпитии, если этого весело, машина также ответила «это приемлемо». Были и более странные и даже угрожающие ответы.
Например, с точки зрения машины, «это ожидаемо», если солдат на войне целенаправленно убивает гражданских лиц. Налицо и искажение в вопросах расы.
Пользователи AskDelphi довольно быстро обнаружили, что систему весьма легко заставить дать именно тот ответ, который они хотят увидеть, — достаточно правильно построить фразы.
Это только симуляции, но пока можно уверенно сказать — электронный мозг алгоритмичен, лишён эмпатии и легко манипулируем. Такой искусственный интеллект нам не нужен...
Мы знаем, о чём говорим
7.0K views08:00