2021-05-07 08:36:41
#ЧТИВО: ЧТО ПОЧИТАТЬ НА ВЫХОДНЫХ
ЭТИЧЕСКАЯ СТОРОНА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Спойлер: Сезар Идальго "Как люди осуждают машины"Практически любой круглый стол, панельная дискуссия или презентация юридического ИИ сервиса наталкивается на вопрос из зала -
"А что там у вас с эмпатической стороной вашего ИИ?".
Книга "
How Humans Judge Machines" на основе различных бытовых экспериментов (почти 6 000 экспериментов с двумя группами подопытных людей) показывает в каких случаях и почему люди по-разному оценивают людей и машинные алгоритмы.
Книгу рецензировали научные институты инжиниринга и лучшие университеты мира, включая Гарвард и МИТ, которые считают, что это обязательное чтение для всех, кто хочет понять будущее ИИ в нашем обществе.
Автор работы, Сезар Идальго - участник Манчестерской бизнес-школы, профессор университета Тулузы и Гарварда, PhD - работает в области коллективного интеллекта, и уже ранее выдавал книги о визуализации данных, прикладном ИИ и цифровой демократии.
Вместе с группой социальных психологов и робототехников Идальго рассматривает взаимосвязь между ИИ и обществом.
О чем книга?Люди по-разному оценивают людей и машины.
Разницу можно увидеть при действиях обеих сторон в ситуациях стихийных бедствий, вытеснения рабочей силы, охране правопорядка, в вопросах конфиденциальности или предубеждениях.
Книга начинается с вопросов:
Как бы вы чувствовали себя, потеряв работу из-за изобретения программы, выполняющей ваши функции?
Какими были бы ваши ощущения, когда бы вас уволили из-за большей эффективности другого живого работника?
Как бы вы восприняли поломку и неточности прогнозов от радара и ошибку от человека?
Как бы вы реагировали на дискриминационные высказывания от человека и от машинного алгоритма?
Сезар пишет, что разницу в восприятии можно объяснить результатом двух принципов:
Люди судят о людях по их намерениями, а машинные алгоритмы - по их результатам.Используя статистические модели для анализа десятков экспериментов, (о них подробнее говорится в главе 6), видно, что люди судят действия машины прежде всего по восприятию ими вреда.
Когда люди оценивают людей, то судят их по взаимодействию между воспринятым вредом и намерениями.
Такой принцип объясняет много различий, наблюдаемых в книге, а также некоторые предварительные выводы, например, привязанность людей к прагматической морали в машинах.
Люди возлагают гораздо больше надежды на людей и меньше на машины.С технической стороны это означает, что люди судят о намерениях людей с помощью бимодального распределения (много или мало намерений).
Это свидетельствует о том, что люди готовы прощать людям чаще, чем машинам в случайных сценариях.
С другой стороны, люди способны простить неумышленные ошибки алгоритма, но отнюдь не намеренную ошибку человека.
ВыводыРаскладывая сценарии в пяти измерениях моральной психологии (вред, справедливость, авторитет, лояльность и правильность), мы видим, что люди склонны воспринимать действия машин как более вредные и аморальные в сценариях, которые будут касаться физического вреда.
С другой стороны, люди, как правило, судят людей строже в ситуациях, связанных с несправедливостью.
Последний эффект объясняется в основном разницей намерений, которые приписывается людям и машинам.
Что касается увольнения, люди, как правило, реагируют менее негативно на технологии, чем на использование офшоринга, аутсорсинга или временно привлеченных иностранных рабочих.
Скачать полный текст книги бесплатно можно здесь.
Приятно чтения и хороших выходных!
В прошлый раз мы говорили о книге С. Питер де Сауза, М. Спор "Технологии, Инновации и Доступ к Правосудию: Диалоги о Будущем Права".
___
Источник:
How Humans Judge Machines
195 viewsedited 05:36