Почему роботы не заслуживают вежливости?
На русском языке вышла книга философа Кенига Гаспара «Конец индивидуума». Это интересный анализ изменений в обществе и в умах людей в результате взрывного развития технологий ИИ.
Гаспар много внимания уделяет антропоморфизации продуктов на основе ИИ и, в особенности, на основе языковых моделей: «… нельзя доверять нашей естественной склонности к антропоморфизации ИИ... антропоморфизация — это «когнитивная простота». Пользователю проще обращаться к ИИ, приписывая ему самостоятельное существование. Однако это «эпистемологическая ошибка, и было бы опасно позволить ей исказить наши представления о мире». Именно поэтому автор требует от знакомых детей, которым нравится общаться с голосовой ассистенткой Алексой в «умной» колонке, чтобы они не проявляли вежливость и ни в коем случае не говорили ей «пожалуйста» — ибо это невольно искажает их представления о мире. «Робот не заслуживает вежливости, а вежливость не должна становиться автоматической».
Апелляция к телесности как абсолютно необходимому условию существования интеллекта вообще пронизывает всю книгу, и аргументы в поддержку такой гипотезы разнообразны и интересны. Интересность эта часто связана с тем, что среди собеседников Кенига Гаспара много не только европейцев и американцев, но и китайцев, чье вполне благосклонное отношение к ИИ во многом обусловлено их культурными традициями. Автор подчеркивает, что наш разум — не просто комбинация абстрактной логики с произвольной телесностью, он тесно связан с биохимическими реакциями, которые происходят в организме и управляют нашими рефлексами и эмоциями. Наши решения зависят от наших гормонов в той же мере, что и от наших синапсов. А еще от кишечника.
src
