Pan Meditat

2022-08-25 18:07:46 Алгоритмы против художников и языка Не так давно ленты и соцмедиа стали захватывать картинки из Dall-E, потом Midjourney, и теперь вот в открытый доступ вышел Stable Diffusion. И если Midjourney превратился в коллективную активность в Discord с приторговыванием… Открыть/Комментировать

2022-08-25 17:56:05 Алгоритмы против художников и языка

Не так давно ленты и соцмедиа стали захватывать картинки из Dall-E, потом Midjourney, и теперь вот в открытый доступ вышел Stable Diffusion. И если Midjourney превратился в коллективную активность в Discord с приторговыванием текстовыми запросами, то SD можно использовать без каких-либо ограничений и создавать картинки, весьма приближенные по стилю к тем художникам, которым "повезло" оказаться в базе, на которой и тренировали алгоритм.

Логичной реакцией многих художников стала обеспокоенность — та же Stable Diffusion уже достаточно эффективно нарезает арты из чужих картин, чтобы ее арты можно было спутать с работой реального человека, даже искаженные подписи художников то и дело попадают на картинки. С одной стороны, никто у большинства художников не спрашивал, хотят ли они в принципе, чтобы их работы попали в базу, и они с этого не получают никакого дохода. С другой, художники невольно влияют на качество работы продукта, хоть и не имеют никакого контроля над ним. И дело даже не в самом существовании искусственного интеллекта, способного смешивать по текстовому запросу куски чужих произведений, а в устройстве мировой машины, породившей массовое взаимодействие человека и технологии в ее современном виде.

Может ли ИИ-арт принести деньги? Ну, в октябре 2018 года «Портрет Эдмонда де Белами», сгенерированный нейронкой после тренировки на 15 000 произведений, ушел с молотка за 432 500 долларов при минимальной цене в 7000$. Значит ли это, что любой подобный ИИ-арт успешен? Разумеется, нет; для этого нужно все же создать определенный контекст восприятия. Midjourney зарабатывает доступом к нейросетке и торговлей наиболее эффективными запросами. В целом здесь все похоже на массово-коллективную игрушку - всем интересно, что машина насобирает в ответ на их запрос. Какой-то бедолага отметился тем, что несколько часов пытался нарисовать себе "красивую женщину, роскошный вид, 4К". Один японец уже сделал целую визуальную новеллу, использовав арт из Midjourney. Вроде бы все это ничего, если бы нейросеть не стала в одночасье самым известным художником в Сети, затмив упоминаниями о себе реальных людей, места в интернете хватит всем, но вот список трендов весьма тесен. А если ты не можешь привлечь внимание к себе, то и денег ты тоже не заработаешь. Если такие нейронки относятся к ряду GAN-сетей (generative adversarial network то есть), можно назвать это цветущее направление как GANism, наверное.

Двоякость проблемы с собирающим картинки ИИ заключается в отсутствии у машины интенциональности, вся деятельность алгоритма сводится к синтаксическим манипуляциям, у которых нет семантического контекста (это снова про китайскую комнату, да). Возможно, антропоморфный "опредмеченный" в теле ИИ сможет создавать смыслы в результате своего взаимодействия с окружающим миром, но тогда все равно останется актуальным вопрос, готовы ли мы в принципе считать такой нечеловеческий разум частью человеческого общества, в котором реализуется процесс творчества. Если же приземлить проблематику к нашему времени, то потенциально у художников появляется эффективный, но достаточно грязный этически инструмент для ускорения рисования в наиболее распространенных стилях цифровой живописи. В этом смысле Stable Diffusion продолжает развитие вещей типа обрисовывания фотографий и готовых кистей в виде каких-либо объектов.

В гуманитарном плане поражает разве что искренность восторга людей без какого-либо эстетического багажа, восхищенных работой Midjourney. Обеспокоенность художников эффективностью алгоритма понятна прежде всего по той причине, что он позволяет вообще убрать человека из уравнения, оставив только текстовый запрос потребителя, в отличие от того же фотошопа и сложных кистей. Все, что делает та же Midjourney, в сущности — лепит математически выверенные композиции с характерным апокалиптическим вайбом, это такой эстетикосодержащий продукт, если угодно. Открыть/Комментировать

2022-08-22 18:02:39 Итак, новое видео — Elden Ring, опенворлды, геймдизайн и психология.

Elden Ring оказалась мне интересной тем, какие вопросы она ставит для игростроения в принципе со всеми ее особенностями, шероховатостями и бесящими моментами.

Много говорю об экономических реалиях опенворлдов, способах мотивации игрока, и как эта конкретная игра вырабатывает определенные, иногда губительные для опыта, привычки.

Поддержать, как обычно, можно тут: https://boosty.to/j_calavera Открыть/Комментировать

2022-08-22 18:02:39 Я вынес разговоры про видеоигры в отдельный канал, но свежий ролик, думаю, затрагивает смежные с предметами этого канала темы.

Мы сейчас много слышим и читаем про метаверсы, и, судя по тому, куда продолжают вываливать деньги и как себя чувствует игровой рынок относительно остальных, будущее с огромными виртуальными мирами никуда не денется.

В видео много говорю о том, как дизайн игр вроде Elden Ring работает с мотивацией и формирует опыт игроков. Открыть/Комментировать

2022-07-20 17:34:02 Пока изучал материал для книги, наткнулся на любопытный пример совриска как карательной архитектуры.

Есть ряд источников, ссылающихся на исследование историка Хосе Миликуа (Jose Milicua), который якобы раскопал в архивах свидетельства о работе анархиста Альфонса Лавренчича (Alphonse Laurencic). Лавренчич во время испанской гражданской войны спроектировал специальные камеры, вдохновленные ненавистным фашистами "дегенеративным" искусством — Дали, Кандинским и так далее. Попутно взял человекоцентричные идеалы баухауса и развернул их в обратную сторону.

Пленных, воевавших на стороне генерала Франко, изводили кроватями со скошенными под 20 градусов поверхностями, с которых заключенные соскальзывали во время сна, напольными блоками, чтобы не получалось ходить по камере, и тем самым сюрреалистским искусством на стенах.

Где-то пишут, что заключенных также регулярно водили на показ «Анадлузского пса» Дали и Бунюэля, ради сцены с разрезанием глаза, конечно.

Слева архивная фотография камеры, справа — реконструкция. Открыть/Комментировать

2022-07-15 12:15:41 Мудборд-промышленный комплекс и алгоспик Если мы живем в киберпанке, где будущее распространяется неравномерно, то полезно посмотреть на то, как сейчас обстоят дела в Китае. Помимо Great Chinese Firewall внутренняя колонизация окончательно оформилась посредством… Открыть/Комментировать

2022-07-15 12:13:21 Мудборд-промышленный комплекс и алгоспик

Если мы живем в киберпанке, где будущее распространяется неравномерно, то полезно посмотреть на то, как сейчас обстоят дела в Китае. Помимо Great Chinese Firewall внутренняя колонизация окончательно оформилась посредством суперприложения WeChat — представьте себе цифровую химеру из «Госуслуг», Telegram, VK с Одноклассниками и новостного сервиса Яндекса. По совокупности функций это слишком удобное в бодрийяровском смысле решение, от которого тяжело отказаться в пользу какой-либо альтернативы, не используемой государством для слежки и цензуры. И при всем многообразии возможных действий, от работы и оплаты коммуналки до обсуждения новостей в комментариях, у пользователей для всего этого есть один профиль, то есть все возможные идентичности схлопываются в одного конкретного гражданина, такое "один лидер, одна нация, один ID, один интерфейс". Большинство вещей удобно делать через WeChat, и удобство неизбежно ведет к оптимизации средств, а сами действия пользователя складываются в удобный для чтения органами лайфлог.

Поэтому WeChat также стал полем постоянной борьбы между цензурой и гражданами. Регулярно в WeChat проводят массовые чистки и вводят запреты на какие-то фразы, слова или инфоповоды. Но WeChat при этом должен как-то укладываться в политику zhengnengliang — "позитивной энергии"; так что вместе с вымарыванием неправильных слов партия отгружает пользователям миленькие анимированные стикеры, куда более привычные для обитателей рунета, чем для тех же американцев, так что тут у нас много общего. Чуть менее цензурируемые стикеры в руках китайцев стали инструментом иносказания и передачи смысла, став в сущности надстройкой над регулируемым сверху языком, позволяющим громко прошептать намного больше, чем это возможно в случае тех же эмодзи. Производство стикеров для WeChat стало настолько большим бизнесом, что его называют мудборд-промышленным комплексом. Подобные инструменты особенно успешно распространяются в условиях, когда "положено знать, чего знать не следует" и прочих "мы не знаем, откуда идет дым, потому что смотрим в другую сторону". Стикеры позволяют пользователям упаковать в одну картинку свои убеждения, интересы и отношение к предмету обсуждения в относительно безопасной, хоть и анестетической форме.

При этом слова и концепции в Китае жестко табуируются — посты с фразами вроде tang ping ("лежать плашмя") или mō yú ("потрогать рыбу") быстро затираются, так как обе фразы используются для описания критического отношения к пропаганде переработок типа модели "996" — с 9 утра до 9 вечера 6 дней в неделю. В это же время исполнительный директор ресторанной сети Xibei и вовсе пишет в соцсети Weibo, что стране нужно переходить на "715" — семидневку с 15-часовым рабочим днем. Обсуждать anti-work движения и реагировать на такие высказывания китайцам приходится именно стикерами. Подобным образом в ироническом контексте в обсуждении пропаганды силовых ведомств используется стикерпак с котом-оперативником.

Там, где стикеров недостаточно, на помощь приходит алгоспик (algorithm speak), необходимый для того, чтобы оставаться видимым в тиктоке и инсте. Так "мертвые" превратились в "неживых", эмодзи с кукурузой стал обозначать порнографию (corn — porn). На сайте Zuck Got Me For можно пройтись по целой галерее NSFW-мемов, выпиленных автоматической модерацией инстаграма, но как алгоритмы понижают видимость видео с какими-то словами, во многом остается загадкой.

Тут напрашивается старое-доброе про сетевой паноптикум, но здесь скорее обратиться к словам Маргарет Хилленбранд о том, что недисциплинированное чувство — естественная реакция стоящего у обрыва прекариата. В этом смысле политика "позитивных вайбов" вышла далеко за стены китайских политтехнологов, судя по результатам модерации цукерберговских соцсеток и нашим "хлопкам". И как говорил тот же Фуко, даже подавляющая, репрессивная власть может быть продуктивной, так как она не делает самовыражение невозможным, но заставляет его активно принимать новые формы, способные утешить угнетенных. Открыть/Комментировать

2022-07-11 16:54:03 Как мы вообразили разум роя Любимый этим каналом Томас Мойнихан написал для BBC сверхплотный на ссылки и иллюстрации текст о том, как человечество обнаружило себя на втором месте после насекомых (да, этот самый Мойнихан, с которого начался подкаст, который… Открыть/Комментировать

2022-07-11 16:43:31 Как мы вообразили разум роя

Любимый этим каналом Томас Мойнихан написал для BBC сверхплотный на ссылки и иллюстрации текст о том, как человечество обнаружило себя на втором месте после насекомых (да, этот самый Мойнихан, с которого начался подкаст, который ждет скорого возрождения).

В викторианской мысли (а это XIX век) человек все еще оставался центром мироздания и венцом творения, пока в начале XX столетия ученые вдруг не обнаружили, насколько сложной может быть социальная организация насекомых; и таковой она стала за миллионы лет до человека. Осознание того, что люди учились уживаться и социализироваться всего-то пару тысячелетий, в то время как насекомые успешно делали это миллионы лет без всякого млекопитающего мозга, пошатнуло позицию человека как "монарха Земли"; до этого Homo Sapiens считался буквально последним плодом эволюции.

Тогда же, в 1911 году, впервые возникает термин «суперорганизм» — может быть, у одного муравья в голове можно обнаружить совсем немного разумности, но у целого муравейника может быть даже свой особенный характер. У этого понимания были и свои относительно радужные перспективы: если насекомые решили свои проблемы сложных обществ, к этому как-то должен прийти и человек (а потом началось то, чем нам запомнился XX век). Причем насекомые добились вполне неплохих результатов без воспеваемой человеком рациональности, достаточно всего лишь пары миллионов лет слепой и во многом случайной эволюции. С этого началось победное шествие насекомоподобных инопланетян в фантастике — потому уже, во время Холодной Войны, их сменили психоделичные дельфины, а теперь мы смотрим на осьминогоподобных существ в «Прибытии». Каждый раз, когда человечество узнает о сложности какого-нибудь нечеловеческого разума, собирательный портрет инопланетянина меняется.

Одним из наиболее оптимистичных мыслителей того времени стал астроном Харлоу Шапли — пока в New Yorker писали, что единственным победителем Третьей Мировой станет таракан (в 1944-м году его называли неуничтожимым «супержуком»), Шапли говорил о пользе юности и пластичности человеческого мира. При всей нестабильности и возможной гибели от своих рук, человеческий мозг способен заглянуть намного дальше в будущее, в отличие от выученных на инстинктах прошлого насекомых. Среди муравьев распространен альтруизм, и человек может распространить его намного дальше во времени и пространстве, содействовать друг другу через целые поколения и накапливать знания. Может быть, человек не "монарх" планеты, а наследник с тяжелейшим бременем — кумулятивная культура позволила человечеству развиться так быстро, как никогда прежде, но обратная сторона этого успеха заключается в растущей цене человеческих ошибок. Интересно, кем восхитится человек после муравьев и осьминогов, и ждать ли нам фантастику о тихоходках.

P.S. Эту статью для BBC можно считать продолжением не менее крутой статьи о дельфинах, также написанной Томасом. Открыть/Комментировать

2022-07-07 16:21:47 Хороший поясняющий материал по следам истории с инженером Google, уверовавшим в наличие у языкового алгоритма LaMDA сознания.

Помимо уже описанных проблем с "курированием ответов" у связи между пиковым ИИ и понижающейся планкой критического восприятия оказалось еще одно измерение. С позиции инженера сложность параметров той же GPT-3 уже достаточно высока, чтобы анализ результатов оказался затруднительным — трудно сказать, почему нейронка выдала конкретный ответ, а не какой-то другой. Это неудивительно, учитывая, что в качестве ресурса для обучения используется интернет, и сами сети теперь анализируют отношения между удаленными друг от друга словами, а не только соседними. Но в сущности это не какой-то "искусственный интеллект, говорящий на естественном языке", а такой лингвистический секвенсер, который удачно подбирает очередности слов. Иначе говоря, все это ближе к крутым тостерам, чем к первым шагам нового вида. Но скорость, грамматика и внутренняя непротиворечивость диалога с нейронкой позволяет быстро убедить человека в том, что он разговаривает с чем-то разумным. Особенно важно здесь то, что машина эффективно создает иллюзию того, что сгенерированный ей ответ соотносится с реальностью. Мы верим картам с GPS, потому что точки на них соответствуют реальным местам; мы верим нейронке, когда ее описание вкуса авокадо соответствует тому, что ощущаем мы сами. С лжецами и манипуляторами, к слову, все это работает примерно так же, так что между LaMDA, рассказывающей истории про замечательные выходные с семьей, и политиками на дебатах можно провести определенные параллели — в обоих случаях аудиторию пытаются убедить грамотно подобранными словами.

Проблема, прежде всего, в нас самих: мы всегда подсознательно строим в голове модель собеседника, у которого должны быть какие-то чувства и убеждения. Собственно, раньше вычислять примитивных чатботов было проще за счет того, что они стремительно вступали в противоречие с тем, что могли сказать минуту назад, и модель разрушалась. При этом неважно, что в разговоре с нейронкой мы создаем эту модель на пустом месте. Работает это и в другую сторону — наблюдается корреляция между наличием у собеседника трудностей с подбором слов, дефектов речи или даже акцента и восприятием их как "менее разумных" в глазах собеседника.

Если смотреть на проблему более философски, то стоит вообще поднимать вопрос о том, что мы считаем значениями или смыслом — согласно некоторым когнитивным теориям производство смысла вполне доступно мощным лингвистическим алгоритмам. Например, если такая нейронная сеть может работать со сложной иерархией концепций.

TL;DR Тест Тьюринга лишен смысла, потому что он во многом зависит не от успехов ИИ, а от внушаемости человека. Открыть/Комментировать