The Technodeterminist Papers

2022-02-03 16:57:43 Дэвид Чалмерс выпустил новую книгу "Reality+: Virtual Worlds and the Problems of Philosophy": философы шагают в ногу с рынком, так что она посвящена виртуальной реальности. Главный тезис Чалмерса, известного философа сознания, состоит в том, что жизнь в виртуальной реальности может быть столько же осмысленной, счастливой и полной человеческими переживаниями, как и в нашем обычном мире. В сущности, любая подобная аргументация внутри аналитической традиции строится через опровержение мысленного эксперимента Нозика о "машине опыта": Нозик предполагал, что никто добровольно не откажется от своей настоящей жизни во имя машины, способной генерировать любые ощущения. Примечательно, что Чалмерс не первый автор, защишающий подобную позицию: в исходе в виртуальную реальность, фактически в набор бесконечно разнообразных видеоигр, видит будущее человечества молодой ирландский философ Джон Данахер, чей текст "Automation and Utopia" я подробно разбирал для Logos Review of Books.

Читая Чалмерса, российский читатель может увидеть экзистенциальный разрыв, разделяющий его и автора. Мечта о виртуальной утопии может возникнуть в очень благополучном обществе, которое с одной стороны вынуждено придумывать для себя новые цели развития (что-то вроде киберкоммунизма), а с другой мучительно пытается избавиться от переживания скуки и бессмысленности хорошо благоустроенного существования.

Тезисы Чалмерса в России упираются в вопрос о том, какие институты мы оставим "на реальной земле", прежде чем подключиться в передовому, приятному и полному смысла VR. Условно говоря, не отрежет ли тебе Рамзан Кадыров голову, пока ты будешь подключен к системе. Виртуальная реальность, помноженная на клептократию, дает бесконечные перспективы для укрепления авторитаризма. Самая продвинутая часть общества, воспользовавшись советами Чалмерса, просто уйдет в виртуальную эмиграцию, оставив Москву государственным бандитам и мигрантам, причем первые установят для вторых Синьцзян-2.

В какой-то момент я именно по этим довольно наивным причинам разошелся с постструктурализмом: я понял, что прочитав Делеза, можно обосновать и дать интерпретацию любому явлению так, чтобы в него не хотелось уже вмешиваться. Именно по этой причине я мигрировал в политическую философию, ставящую под сомнение существующий порядок, и предлагающий нормативные принципы для его изменения. Знаменитый тезис Маркса о задачах философии, по-моему, является единственной серьезной апологией наших интеллектуальных практик.

Данахеру я написал в Твиттере, что мне понравилась его книга, но я считаю, что он ошибся в ключевом тезисе: любое умножение реальностей спровоцирует политическую борьбу за возвращение к "настоящему", эта "жажда реальности" отчетливо прослеживается от мифа о пещере к "Матрице" и современному интересу к расследовательской журналистике.

Люди нативные эпистемологи, которые регулярно хотят знать, как оно все устроено на самом деле. Но когда Запад отправится на поиски виртуального счастья, а на остальных территориях планеты будет установлен режим цифрового ГУЛАГа, нас ждут самые интересные и философские времена. Открыть/Комментировать

2021-12-21 22:33:09 камерами слежения превращаются в нечто среднее между пресловутой big village и концентрационным лагерем. В этом обществе нет места свободе выбора и человеческой индивидуальности - на социальных мифах о которых держался модерн. Каждый из нас лишь незначительная погрешность big data, собранной о поведении и потребления людей в цифрово-надзорном обществе. У данных есть предсказательная сила: собирая и анализируя всю информацию о человеческой жизни, можно создавать эффективные сценарии влияния на желательное потребительское (или политическое) поведение.

Центральный тезис Зубофф: новым фронтиром капитализма оказалась цифровизация всех элементов человеческого опыта. Государства, такие как Китай и Россия, научились использовать те же технологии для укрепления диктатуры.

Никто не ждал от Google такого, но также никто не знает, что делать с этими экстерналиями дигитализации. Рецепт Зубофф - укрепление демократических институтов и ограничение влияния цифровых платформ на человеческий опыт. Некоторые общества не смогут в обозримом будущем воспользоваться этим рецептом. Еще есть всепобеждающая логика шифропанков - людей в цифровых шапочках из фольги, чья паранойя по поводу судьбы данных оправдалась с избытком. "1984" года не будет только лишь потому, что Оруэлл не мог представить себе такую глубокую трансформацию общества модерна, как нынешняя. Он создавал плохую версию индустриального массового мира, но не нынешний утонченный надзорный капитализм.

В России "Эпоху надзорного капитализма" представляет издательство института Гайдара, которое возглавляется Валерием Анашвили. Открыть/Комментировать

2021-12-21 22:32:43 На русском языке вышла главная книга начала новых ревущих двадцатых, в ходе которых технологическая и социальная трансформация мира наложилась на строительство новой разделенной Европы и символическое восстановление Берлинской стены.
Шошанна Зубофф, исследователь социологии труда в Гарварде еще в 80-е написала классический текст о современной организации менеджмента, а полтора года назад неожиданно представила "Эпоху надзорного капитализма", в которой дана крайне критическая оценка цифровизации.
Текст примыкает к фукольдианской традиции исследований власти, знания и надзора и посвящен, главным образом, экстерналиям цифрового капитализма: там, где Google и Facebook хотели всего лишь зарабатывать на персонализированной рекламе, предоставляя пользователям бесплатные сервисы, возникает образ нового общества.
В этом обществе, например, больше нет разницы между публичным и приватным, слово privacy всерьез употребляется лишь в речах маркетологов. В нем нет анонимных городов социолога Зиммеля: мегаполисы с камерами с Открыть/Комментировать

2021-10-26 13:56:31 Однажды я позвал физика на дискуссию про искусственный интеллект, а он сказал, что не придет. - Вы, философы, - сказал физик, - когда собираетесь, всякий раз начинаете обсуждать свою дилемму вагонетки, а нам, ученым, и слова не даете вставить.

Физик прав. Искусственные агенты, действующие в реальном мире, хотя бы автомобили-беспилотники, проблематизируют этику на новом уровне. Раньше у нас были моральные интуиции, которыми мы были довольны, и скучные теории, которые обсуждают специалисты. Теперь нам нужно поделиться моралью с роботами - так, чтобы их действия выглядели бы в человеческом обществе пристойно. "Три закона робототехники" Азимова из конца 1940-х не пройдут. Роботы не смогут полностью отказаться от причинения вреда людям. Этому посвящен уже старый проект MIT Moral Machine, версия дилеммы вагонетки, в котором людям надо подсказать беспилотнику, кого он должен спасать, а кем жертвовать. Лет десять уже в MIT учат машины убивать людей (и животных) и делать это этично.

Moral Machine уже на уровне своего названия несколько лет назад спровоцировала меня на идею "обратного инжиниринга морали". Если мы научим роботов действовать так, чтобы люди считали их выбор этически оправданным, то почему мы не можем использовать тех же роботов для определения этических качеств наших собственных действий? Если ваш автомобиль обладает достаточно совершенной системой этических взглядов, то нельзя ли не просто делегировать ему моральный выбор в экстренной ситуации на дороге, но и, например, посоветоваться по дороге о своих отношениях с тещей?

Короче говоря, если мы, в частности, исходим из идеи, что этика конвенциональна, и правильный моральный выбор тот, который считает таковым большая часть людей в данном обществе, то Moral Machine перестает быть метафорой, и мы действительно можем сконструировать "универсальную этическую машину", нейромудреца, к которому можно обращаться за советами по этике, и эти советы будут как минимум не хуже, чем у людей.

Как и в случае любви ("алгоритмы Tinder диктуют нам, с кем мы должны спать"), идея делегирования представлений о добре и зле машине встречает интуитивное отторжение.

А между тем первый прототип Real Moral Machine уже создан. Проект Delphi от Алленовского института искусственного интеллекта предлагает вам предложить нейросети описание некоторого действия, и, опираясь на статистически значимое мнение людей, Delphi сообщит вам, хорошее ли это действие, дурное или нейтральное.

Так, по мнению Delphi, врать умирающему, что он в порядке - плохо, дать в морду нацисту - нормально, вернуть долг - само собой разумеющееся, а вот шитпостить в твиттере - тоже плохо.

Что дальше, как вы думаете? Я считаю, что в какой-то итерации подобных проектов должен появиться культ св. Машины, на непогрешимость которой одни люди начнут молиться, а другие будут их бить за это палками. Это очень соответствует природе нашего вида.

https://delphi.allenai.org/ Открыть/Комментировать

2020-07-04 21:39:10 Мой текст из Logos Review of Books вышел на "Горьком". Обратите внимания на фигуру Джона Данахера, лучшего из молодых аналитических философов, пишущих о технологиях сейчас, автора замечательного подкаста Algocracy and Posthumanism Project https://gorky.media/fragments/zhdet-li-nas-vosstanie-na-puti-v-virtualnuyu-utopiyu/ Открыть/Комментировать

2020-05-31 19:55:23 Большой обзор всех способов и идеологий цифровой слежки за "ковидными", которые изобрели к этому моменту. От щадящего блокчейна до "цифровых профилей здоровья" в Китае. Россия склоняется ко второму сценарию https://novayagazeta.ru/articles/2020/05/31/85627-novyy-kitayskiy-chelovek-v-kazhdyy-dom Открыть/Комментировать

2020-05-08 21:09:47 Фильм Дудя о русских героях Кремниевой долины больше всего напоминает "Сердца четырех" - водевиль о романтичных красноармейцах, съемки которого были закончены в июне 1941 года, накануне. Существуют прощальные жесты прежней эпохи, и поездка Дудя в Google-коммунизм, состоявшаяся перед тем, как на мир опустился занавес, тут один из ярчайших примеров.

"Сердца четырех" легли на полку: не время было представлять красных командиров, перебитых летом и осенью того же года, в качестве влюбленных, поющих песни. Фильм Дудя люди посмотрели, сидя дома: вместо манифеста открытого мира, полного возможностей,он стал зеркалом для закрытых границ, глобального режима ЧС и контроля за гражданами при помощи цифровой слежки.

Я видел несколько вполне осмысленных линий критики этого фильма. Одни справедливо отмечали, что история успеха - это всегда ошибка выжившего,и что правдивый фильм о культуре стартапов включал бы в себя анализ тысяч разбитых жизней и несбывшихся надежд. Другие критиковали Дудя за демонстрацию под видом эгалитарной мечты патриархальной пародии, реальности,где успеха добиваются исключительно сильные мужчины, как если бы это была Калифорния 19, а не 21 века: женщин в нем не существует.

Но мне кажется, ключевая драма тут именно в прощании с миром,где технологии безусловно делали нашу жизнь лучше,и где улыбчивые инженеры зарабатывали миллионы, предлагая планете все более и более удобные сервисы. В этом мире не было гибридных войн,троллей,тоталитарных государств, поставивших цифровые технологии себе на службу,и повсеместной слежки. Вот улыбчивый инженер рассказывает о том, как распознавание лиц в камерах слежения сделает наши города безопаснее, а ритейл дружелюбнее и прибыльнее, а за его спиной стоит Сергей Семенович в респираторе.

Так звучит последняя песня хиппи из Калифорнии, которые придумали нам новый рай, шеринговую экономику, в которой все братишки, коммунизм знаний. Они сделали очень много полезного,мы пользуемся плодами их трудов,более того,эти плоды единственное,что теперь осталось от старого мира - интерфейсы и гаджеты заменили собой устаревшие и опасные практики прошлого.

"Луковица памяти" Гюнтера Грасса начинается с рассказа о том, как немецким мальчиком он жил в предвоенном Данциге - и как через какие-нибудь несколько лет от этой жизни не осталось никаких следов:ни улиц,ни домов,ни людей, ни даже сколько-нибудь открыто высказанных слов.

А я, пожалуй, пойду почитаю "Всемирный потоп" - текст Адама Туза о том, как Первая мировая война, вирус испанки, распад трех империй и восхождение США стерли с лица земли мир, в котором человечество прожило добрую сотню лет. Открыть/Комментировать

2020-03-03 21:01:30 Две мировые войны, как известно, полностью изменили трудовые отношения в индустриальном мире. Пока мужчины вооружились патриотическими лозунгами и пулеметами и отправились убивать друг друга, миллионы женщин вышли на работу на фабриках и в конторах. После того, как мужчины вернулись, женщины уже не очень хотели расставаться с экономической независимостью, что после Первой мировой привело к признанию их политических прав (тот факт, что до этого момента демократии признавали женщин частично недееспособными - одна из наиболее позорных страниц западной цивилизации наряду с торговлей рабами). После Второй мировой и изобретения оральных контрацептивов случилась сексуальная революция, когда работающим женщинам стало уже довольно трудно указывать, с кем им заниматься сексом.

Урок тут понятный: масштабные трагические события расчищают место для новых форм социальной жизни, которые иначе встречают консервативное сопротивление. Аналогично есть исследования, которые указывают, что условия для промышленного рывка Европы в Новое время были созданы эпидемиями чумы и депопуляцией XIV века: цена труда резко возросла, что стало толчком для инноваций. Где-то рядом лежит и объяснение первой глобализации и раннего колониализма: европейцы к XVI веку не были ни самыми богатыми, ни самыми развитыми жителями планеты, но отчаянно боролись за доступ к восточным рынкам, в первую очередь южноазиатским рынкам, как сейчас мировая индустрия борется за американский рынок. Это толкало их на разного рода безумства вроде путешествия Колумба.

В феврале промелькнуло сообщение от одного из экспертов ВОЗ: пандемия коронавируса неизбежна, остановить распространение инфекции не получилось, и каждый установленный пациент передает болезнь в среднем 2-3 людям. Это значит, переболеют 2/3 населения Земли, а потом коронавирус станет обычным явлением нашей жизни вроде гриппа и станет возвращаться снова. Летальность коронавируса довольно низкая, погибают в основном те, чья иммунная система не справляется, но мир несет огромные экономические потери.

Кто-то, безусловно, на коронавирусе заработает, и это не только производители медицинских масок, но и, например, провайдеры домашних развлечений, от Netflix до Steam. Возможно, именно эти события наконец дадут толчок для роста интереса к коммерческому VR, который потенциально сможет стать новой платформой для человеческой социальности.

В ближайшие месяцы мы можем увидеть западный мир, жители которого не выходят без специальной надобности из дома. Это будет новый опыт городской культуры Запада, когда интенсивные социальные контакты сохраняются, но проходят без личных встреч. Благо, всю необходимую телеком-инфраструктуру мы для этого отстроили: в каждом доме в крупных городах есть высокоскоростное интернет-соединение. Например, работать из дома станет совершенно обыденной и массовой практикой. Часто сейчас в конечном счете люди едут на работу просто для того, чтобы настроиться на офисный лад и не прокрастинировать. Никакой функциональной необходимости нет.

Если подобный сценарий реализуется, коронавирус похоронит индустриальный мир, каким мы его знали. Большая часть массовых ежедневных собраний граждан станет ненужной архаикой. Мы долго смеялись над хикикомори, но возможно они были проводниками будущего. Открыть/Комментировать

2019-06-21 16:51:40 Ближайшая технология, связанная с искусственным интеллектом, которая сильно изменит наш взгляд на мир (в прямом смысле слова), это так называемая вычислительная фотография.

До сих пор мы продолжаем жить в аналоговом мире, где для того, чтобы запечатлеть бесценный момент жизни, как то ваши ноги на пляже, вашу свадьбу, блюдо, которое вы ели на завтрак, вам нужно навести объектив камеры на объект съемки, найти правильный ракурс, добиться нужного освещения, обеспечить приемлемое время выдержки и прочее.

Сейчас все это делается чаще всего одним нажатием кнопки в смартфоне, но сути не меняет. Действовать приходится дедовскими методами, как работали с изображениями в начале XX века. Существует романтическая профессия фотографа, человека, который умеет видеть вещи.

Вычислительная фотография работает иначе. Вы задаете некоторое направление съемки, нейросеть вашего компьютера (смартфона, отсылающего данные для облачных вычислений) получает необходимые входные данные, а затем самостоятельно вычисляет то, что вы на самом деле хотели снять. Достраивает снимок до нужной четкости, освещенности и так далее. С учетом того, какой прогресс достигнут в последние несколько лет в искусственном построении фотореалистичных изображений (см. thispersondoesnotexist.com и аналогичные проекты), разница между снятым на самом деле и полученным чисто вычислительным способом будет постепенно стираться.

Основными компаниями в фотобизнесе станут Alphabet, Nvidia и Apple, те, у кого есть достаточное количество данных и технологий для их обработки.

Среднестатистический человек сможет получать снимки профессионального качества в любом возможном стиле, включая снимки вещей, существовавших в прошлом, или не существовавших никогда - так что если вы спешили сделать селфи с селебритиз, не расстраивайтесь, у вас еще все впереди.

Заодно из фотографии исчезнет вся поэтика, прочерченная в традиции, воспевающей фотографию как аутентичное изображение человеческого опыта, от Картье-Брессона до Барта и Зонтаг. Если вы потеряете любимое семейное фото, которые храните в кошельке, машина сделает вам такое же, но только лучше.

Фотография перестанет быть символом времени и человеческой судьбы, она станет одной из машин построения иллюзии, как уже сегодня наши аккаунты в Инстаграм.

По настоящим, "реальным фотографиям" принято будет тосковать также, как сегодня люди ищут аутентичного звука в пластинках, или аутентичного опыта путешествий вдали от туристических маршрутов.

От технической воспроизводимости искусства мы двинемся к миру бесконечного улучшения воспоминаний. И как же нам будет не хватать индустриального существования, старого доброго XX века. Открыть/Комментировать

2019-04-24 17:12:52 Wired публикует отчаянное эссе о потерянном детстве. Два ребенка решили отправить послание самим себе в будущее, взяв за интервал немыслимое число времени - 10 лет. Им в этот момент было по 8, так что послание было адресовано своим невообразимо взрослым, совершеннолетним версиям.

Один из двух приятелей, автор эссе и тот, кому суждено быть писателем, предлагает отправить в будущее по-настоящему ценный груз: отчет о том, каким на самом деле было их детство. Ведь когда становишься взрослым, забываешь все важные вещи.

Восьмилетний Дуглас называет свое сочинение The Story of My Life So Far. Восьмилетний Питер озаглавил биографию Eight Years Old and Full of Beans, что тогда показалось Дугласу банальностью. Парни бьют по рукам и отправляют тексты в Time Machine, закопав их под дубом.

Какой будет Америка в будущем? Начнут ли автомобили летать? Захватят ли нас коммунисты, как наш говорит учитель? На дворе 1964 год.

Дуглас и Питер не встретятся через десять лет и уже никогда. Машина времени сломается, и пакет с сочинением о том, какой на самом деле была жизнь so far будет утерян. Автор эссе займется цифровой археологией детства и найдет память о своем потерянном друге, исследует на Google Earth местность вокруг их дуба.

Но это принесет лишь ресентимент и отчаяние. Возможно, нам вообще не стоит увлекаться слишком сильно цифровой памятью? А ведь многие так ценили интернет как машину, которая помнит все. Я по этой причине не сделал в своей жизни ни единого сториз.

И dark discovery тут вовсе не в том, что случилось с Питером.

https://www.wired.com/story/my-search-for-boyhood-friend-led-to-dark-discovery/ Открыть/Комментировать