Существует ли свобода в мире, где компьютеры знают людей лучше | Чорт ногу сломит

Существует ли свобода в мире, где компьютеры знают людей лучше, чем люди знают самих себя?

Мы привыкли думать о несвободе как о насилии над личностью: человеку хочется – а нельзя, или не хочется – а он вынужден делать то, что скажут. В картинах несвободы чаще всего фигурируют другие люди: в них есть порабощенный и поработитель, заключенный и надзиратель – и между ними складываются властные отношения. Воля одного человека вынужденно подчиняется воле другого человека – так появляется несвобода.

Но что происходит, если несвободу человеку организует машина? У машины нет своей воли, есть только соображения эффективности. Из них следует, что человек А должен делать дело А1, а человек Б – дело Б1. Насколько проще подчиняться не воле другого человека, а машинным представлениям об эффективности?

Техномиллиардеры любят рассуждать об алгоритмической несвободе ближайшего будущего: роботы будут настолько умнее людей, что людям ничего не останется, кроме как подчиниться машинам. О каждом человеке накоплено столько больших данных, что ИИ уже знает нас лучше, чем мы сами. Вскоре машина раскусит социальную структуру, разгадает финансы и экономику, найдет реальный смысл в политике – будет просто безумием не подчиниться такому ИИ.

Вспоминается сцена из сериала “Кремниевая долина”: когда маленькому сыну техномиллиардера Расса пора спать, ему об этом сообщает не отец, а домашний робот. На ребенка это работает безотказно: ведь требует отправляться в кровать не папа, которого можно уговорить, а робот – с ним не поспоришь, ведь он знает лучше и мальчика и его папы, когда пора спать. Но мальчик не знает, что роботом управляет папа: Расс нажимает на кнопку, чтобы робот отдал команду. И такой расклад оказывается проще и для папы, и для мальчика.

Прочитал на эту тему публичную лекцию «Трансформация свободы в цифровую эпоху» в необычном формате: совместно с @travkinatxt , которая посмотрела на проблему больших данных и свободы через призму нейронаук. Рассказал там о том, как могут выглядеть для специалистов ваши цифровые профили и какие есть самые интересные кейсы цифровой модификации нашего поведения. К сожалению, не было времени достаточно подробно рассказать о том, как использовать системы модификации поведения себе во благо. Но я подробно рассматриваю техники достижения цифровой осознанности в книге, над которой уже работаю — так что скоро та информация, которую я давал до сих пор только в личных консультациях, будет доступна широкой публике.

P.S. Отдельно приятно, что это была первая конференция, на которой мы с Травкиной выступали после любимого Роберта Сапольски.