Mimetic Models: Ethical Implications of AI that Acts Like You | Блуждающий нерв

Mimetic Models: Ethical Implications of AI that Acts Like You

Речь про ИИ, который обладает каким-то умением конкретного человека. Пишет тексты так, как пишете их вы, или играет в игру, как играете вы, или сочиняет музыку, как сочиняете вы. Словом, генеративная сеть, обученная на персональных данных. Она с высокой точностью воспроизводит индивидуальный стиль.

Вот тут авторы из University of Toronto, Cornell University и Microsoft Research разбирают разные сценарии, связанные с будущим распространением Mimetic AI, этические и социальные следствия. Есть о чем задуматься. Например, мысль: на самооценку людей будет влиять то, как общество оценивает поведение их миметических моделей. Некоторые сценарии будто для “Черного Зеркала” [впрочем, эпизод ‘Hang the DJ’ из 4-го сезона как раз про mimetic models!].

Mimetic AI масштабирует ваше индивидуальное мастерство, словно “размножает” ваш талант, увеличивая его влияние на мир, позволяя вам успеть больше. Проблема в том, что это снижает ценность самого человека, после того, как его миметическая модель создана. Плюс возникает масса других интересных коллизий, как еще одно напоминание, что любая мощная технология имеет две стороны.

Недавно я тоже фантазировал на тему mimetic models, текст так и называется Имитация человека, но там меня интересовал иной тип сценариев. В новой статье кое-что показалось уж больно знакомым. И только потом дошло: авторы из University of Toronto, Cornell University и Microsoft Research — те же самые люди, что создали программу поиска стиля шахматистов, про которую я писал в своем тексте и которая его вдохновила.