2021-03-02 17:07:17
Ник «Мы все умрем» Бостром, автор книги «Искусственный интеллект», в статье на Aeon рассказывает об уязвимости мира в паскалевских категориях.
Технологии по Бострому — черно-белые шары в мешке. Никогда не знаешь, каким в руке окажется следующий. Пока нам везет, и шары попадаются белого и серого цветов. Мы "вытаскиваем" либо хорошие технологии, либо такие, с которыми требуется определенная осторожность. Но если в мешке есть хотя бы один черный шар, значит, наш мир уязвим в неком тотальном смысле, т.е. vulnerable из заголовка.
Для Бострома черный камень технологии представляет собой средство неизбежного уничтожения мира, закрывающее нам путь к светлой сингулярности. В пример он приводит гипотетические easy nukes — легкие в изготовлении ядерные заряды. Если бы атомную бомбу можно было бы изготовить в домашних условиях, пришлось бы либо законодательно запретить оборот материалов, либо устроить тотальную слежку. В первом случае Бостром прогнозирует падение экономики и вооруженные конфликты. Корень проблемы заключается в том, что технологию нельзя "забыть" после открытия, как нельзя запретить думать о бомбах и собирать их.
Техногенный конец света у Бострома — именно что Бог Паскаля. Даже если его нет, то его стоит придумать и вести себя соответствующе, чтобы не оказаться в котле. Уничтожение человечества представляется Бострому событием бесконечной стоимости в плане жертв, поэтому в тексте он неоднократно говорит о двух решениях проблемы: тотально-коллективное регулирование и такая же тотально-коллективная слежка. Интересно, как отреагировали бы коллеги шведа из других стран на последнюю инициативу.
А мы можем сделать из текста другой вывод. Прежде всего, вспоминается концепция трех экологий Гваттари (материальные отношения объектов, субъективность и социальность, «схватывание» и медиальность). В ходе технологического развития, когда человек распространяет себя в среде и подчиняет ее, для каждого следующего поколения граница между средой и конструктом будет размываться в пользу последнего; примерно по такой логике определяются те же digital natives. Возможно, незримый диктат панмнемикона и не будет казаться чем-то ужасным людям будущего, пока им не попробуют что-нибудь продать.
Проблема Бострома, однако, как раз заключается в нежелании видеть экологии помимо первой, материальной. Так или иначе, он относится к технологии как некоторому разрушительному объекту (а не модификатору отношений субъектов и объектов), способному быть плохим или хорошим самим по себе, и здесь его метафора скорее препятствует пониманию; молотком можно не только гвозди забивать. Бостром симптоматично говорит о влиянии технологии на политическое и социальное — личное дело каждого становится делом всех, когда у этого каждого в кармане может оказаться ядерная кнопка (здесь считывается явная аналогия с историей Брейвика). И в качестве выхода Бостром предлагает инженерное решение, подкрепленное надеждой на всемирную политическую волю.
Этот технический солюшенизм иллюстрирует «первичное» экологическое мышление — любая проблема сводится к инженерной задаче, а ее решением можно компенсировать слабость институтов и структурные изъяны. Как мы видим по последним новостям хотя бы в области сбора данных, технологии скорее становятся катализатором уже сложившихся тенденций. В этом и заключается идея, что технология не может быть ни хорошей, ни плохой, ни нейтральной, все камни серые, все зависит от вытаскивающей руки.
535 views14:07
P
