Распад личности, социальная инженерия и богатый внутренний мир под угрозой: чем опасны ИИ-клоны
В Университете Британской Колумбии изучили влияние дипфейков (в исследовании они носят гордое название ИИ-клоны) на наше восприятие себя и отношения с другими. В отличие от вымышленных персонажей в цифровой среде, ИИ-клоны имитируют визуальное сходство, манеру общения и поведение реальных людей. Качество этого копирования может быть самым разным: от воспроизведения определенных характерных черт до создания практически идеального цифрового двойника. И это настораживает.
Большинство пользователей немало наследили в интернете — на основе этих данных, в том числе, можно создать маленького, но очень гордого ИИ-клона. И весьма реалистичного (чем уже вовсю пользуются мошенники — ловцы человеческих душ сетями социальной инженерии).
Что же до актуальных страхов на этот счет, то ученые выяснили следующее. Во-первых, они обнаружили, что «боязнь двойника» — это страх не столько перед самим ИИ-клоном, сколько перед возможность его злоупотребления (а от потребления до злоупотребления — всего полшага). Пользователи боятся (в принципе, и правильно делают), что их цифровые двойники могут похитить и использовать ради своих целей злоумышленники. Также распространен «страх распада»: якобы ИИ-клон «угрожает уникальной индивидуальности человека, нарушая его целостное самовосприятие». Среди других фобий — чрезмерная привязанность к клону и искажение образа реального человека (когда клону делегируют слишком много полномочий и он «заигрывается»).
src
