Получи случайную криптовалюту за регистрацию!

Чорт ногу сломит

Логотип телеграм канала @nejdanov — Чорт ногу сломит Ч
Логотип телеграм канала @nejdanov — Чорт ногу сломит
Адрес канала: @nejdanov
Категории: Технологии
Язык: Русский
Количество подписчиков: 5.18K
Описание канала:

Цифровые технологии хакнули ваш мозг.
Надзорный капитализм, большие данные, ИИ — с точки зрения психологии и цифровой осознанности.

Рейтинги и Отзывы

2.50

2 отзыва

Оценить канал nejdanov и оставить отзыв — могут только зарегестрированные пользователи. Все отзывы проходят модерацию.

5 звезд

0

4 звезд

1

3 звезд

0

2 звезд

0

1 звезд

1


Последние сообщения

2022-08-17 15:33:27 Китайская модификация поведения

Написал статью про китайские бихевиористские эксперименты «Кіберпіднебесна: 4 принципи управління суспільством у китайському цифровому авторитаризмі» (вот русскоязычная версия).

Хочу добавить то, что не вошло в статью: о реакции китайцев на требования Партии быть гомогенно-хорошими гражданами.

Нужно понимать, что на деле сотни миллионов китайцев живут в высокотехнологичных городах и зарабатывают много денег. И чем богаче житель мегаполиса, тем ближе он к западной культуре. На богатых китайцев (по крайней мере, на их отпрысков) не распространяется насаждаемая сверху философия «get rich or die trying», поэтому дети выбирают учиться в Европе и США, привозят домой либеральные ценности и выбирают карьеры художников и музыкантов (в сознании рядовых китайцев творческие профессии = бедность ).

Короче, западные ценности, экзистенциальный бунт, цинизм и ирония – все это тоже есть в китайском обществе. Другой вопрос, что там, чтобы все это практиковать, нужно быть либо богатым, либо отчаянным.

Вот две маленьких, но показательных зарисовки:

1) В Китае среди 20-30-летних популярна субкультура санг (пер. похороны, подавленность). Это выгоревшие на работе и учебе молодые люди, исповедующие ироничное пораженчество и ощущение упадка, интернет-декаденты. Санги любят депрессивную человеко-лошадь из американского мультсериала «BoJack Horseman», хотят “проснуться завтра – и быть уже на пенсии” и не поддерживают борьбу за социализм (для нее на улице всегда плохая погода, а сил хватает только лежать на диване и играть на смартфоне).

Партия последовательно борется с сангами, наказывает санг-инфлюенсеров, запрещает их любимые мультики и через медийный рупор призывает: «Встань, будь храбрым. Откажись от “санг-чая”, выбери правильный путь и живи боевым духом нашей эры». Реакция сангов обычно звучит так: «Нахер позитивную энергию».

2) Подобные тенденции свободомыслия и отклонения от культурно-идеологической линии партии наблюдаются и в обеспеченном классе, но выглядят чуть иначе.

Заслуженный китайский инвестор Дин Пэн поделился в рабочем чате своими планами воспитания сына подростка:
- научить его смотреть порно,
- встречаться сразу с несколькими девушками
- и начинать рожать детей уже в на учебе в институте.

Дин объяснил: «Я прожил тяжелую жизнь. Я упорно учился, пока был молодым и продолжал учиться в 30. Я не хочу, чтобы он шел моим путем. Я хочу, чтобы он жил low life», — подразумевая, что плохо учиться, отлынивать от работы и развлекаться напропалую могут позволить себе только бедные люди, и что заработанное состояние поможет купить его сыну такие «привилегии бедных».
1.7K views12:33
Открыть/Комментировать
2022-07-29 20:40:19Дроны и мир без войны

В ближайшем будущем человечество, скорее всего, перейдет на войны дронов с минимальным участием людей в районе боевых действий. Люди будут координировать автономные дроны на расстоянии, сидя в бункерных штабах. Со временем люди-военные превратятся в простых наблюдателей: роботы будут воевать самостоятельно, а люди не всегда будут понимать, что же происходит на поле боя.

Уже сейчас в Китае работают «водители робо-такси». ИИ уже достаточно хорош, чтобы в большинстве случаев вести машину без человека, но власти все еще не доверяют нейросетям полностью и прикрепляют к ним живых контроллеров. Но и эта профессия исчезнет через пару лет, когда водители робо-такси допилят баги нейросетей-водителей, а китайцы убедятся, что их ИИ справляется с вождением даже лучше людей.

Точно так же, чем больше люди будут управлять военными дронами, тем скорее боевой ИИ станет автономным.

К 2027 году англичане обещают выпустить истребитель Spitfire поколения ИИ: в нем бортовые нейросети будут считывать биопоказатели пилота, активность его мозга и нервной системы и перехватывать управление самолетом, если летчик, например, потеряет сознание. Со временем живые пилоты вообще будут не нужны.

Все виды тяжелых вооружений – артиллерия, танки, зенитные установки – будут передвигаться и стрелять без человеческого экипажа на борту. Самолеты научатся летать без живых пилотов на борту, а управлять ими будет симбиоз ИИ и удаленно работающего пилота. Боевые спутники будут бороздить по космосу без пилотов. Летающие дроны уже сканируют местность, доводят ракеты до цели, сами выпускают ракеты, стреляют и сбрасывают бомбы.

В ближайшее время силу начнет набирать технология «роя дронов» – это коллективный ИИ-разум, который синхронизирует и управляет одновременно десятками (а потом и десятками тысяч) роботов всех видов и форм. Сейчас в Украине боевые задания выполняют группы из десятков дронов, пилотируемых командами людей, а в будущем задания будут выполнять сотни ударных дронов, десятки автономных установок артиллерии и ПВО, беспилотные танки и тысячи дронов камикадзе – все идеально синхронизированные ИИ-роем.

Иногда ИИ-рой приобретает бувальное воплощение. Молодые ученые превратили мертвых пауков в “некроботов” (или “арахноборгов”, если хотите). Они научились синхронно управлять лапками трупика паука, вонзая иголку в нужный участок его мозга. Пока некроботы работают довольно топорно, но можно смело ждать появления арахноборгов на полях сражений. Представьте себе, что утром небольшой летательный дрон вплотную подбирается к вражескому лагерю и сбрасывает на него стаю арахноборгов разных видов и форм. А к вечеру управляемые дистанционно пауки убивают все высшее командование, до которого не добраться никакими бомбами и пушками.

Нет ничего смешного в роботизации и деревьев. Я уже видел, кажется у Vice, документалку, в которой камеры устанавливали на деревья в дебрях джунглей и с помощью круглосуточного видеонаблюдения с ИИ ловили браконьеров. Можно устанавливать автономные ИИ-деревья на границах с враждебными территориями — и они будут автоматически активировать защитные мины, например.

Почему я за переход войны в ИИ-фазу? Я надеюсь, что это поможет избегать человеческих жертв и война окончательно перейдет в экономическую и технологическую плоскости: рулить будет совершенство машин и алгоритмов, а не право политиков ставить людей под ружье.

Раз уж мы такие агрессивные обезьяны и не можем не воевать, значит, нужно воевать максимально цивилизовано: эвакуировать всех гражданских из зоны дроно-боев и позволять воевать сколько их кремниевой душе угодно.

В культовом аниме «Евангелион», когда на месте города Токио-3 сражались восьмидесятиметровые роботы-убийцы, небоскребы с жителями находились в катакомбах под землей: по сигналу тревоги город как бы уезжал под землю. Когда драка ботов заканчивалась, небоскребы выезжали обратно наверх, на свет божий.

В войнах будущего не должны погибать люди.
3.1K views17:40
Открыть/Комментировать
2022-07-26 20:12:03 Чему можно научиться у Тайваня?

Тотальная цифровизация – неизбежная реальность. Цифровизуются все сферы индивидуальной и общественной деятельности — как глобальные, так и микроскопические явления, как движения массовой, так и индивидуальной психе. Остановить тотальную цифру может только ядерная война и разрушение цивилизации. Но пока войны идут вполне обычные, а цивилизация только крепчает.

Ключевой вопрос для развивающейся цифровой эпохи такой: по каким принципам должны и будут цифровизоваться личности, государства и человечество в целом?

Я отчетливо вижу два пути: демократическая цифровизация (демцифра) и авторитарная цифровизация (автоцифра).

Процесс цифровизации в большей или меньшей степени контролируют власть имущие и/или крупные капиталисты. Но разница между демократической и авторитарной моделями цифровизации — в степени участия в этом процессе и в уровне контроля, которые доступны обычным гражданам.

В авторитарных государствах граждане совершенно бессильны перед цифровым надзором и контролем государства. Поэтому такая модель кажется соблазнительным вариантом развития для представителей властной верхушки (в первую очередь, для политиков и техноолигархов), так как позволяет взять общество под стремящийся к 100% контроль: чем объёмнее сбор данных и сильнее ИИ — тем полнее контроль.

В демократических режимах уровень участия простых людей в цифровых процессах управления сейчас всё возрастает. Демцифра держится на информированных и вовлеченных в общественную жизнь гражданах (без активности граждан цифровизированная демократия автоматически будет приближаться к автократии).

Тайвань — одна из самых цифровизированных демократий мира. К власти этого островного государства пробились настоящие, неиллюзорные гики, разделяющие классические ценности раннего децентрализованного интернета. История цифровизации Тайваня доказывает, что трушные интернет-пути, ведущие к демцифре (а возможно к анархо-цифре) — не пустая болтовня, а реальный проект современного общества.

Тайвань имеет кое-что общее с Украиной: это государство вынуждено совершенствовать свою демцифру не просто рядом с самой продвинутой автоцифрой в мире — Китаем, но под постоянной угрозой от этого авторитарного соседа. Но я считаю тайваньский опыт интересным и полезным для Украины не только поэтому. Дело в том, что Украина сейчас тоже демонстрирует очень смелые цифровые решения, которые ещё недавно казались пустыми мечтаниями, а оказались крайне действенными даже в обстоятельствах смертельной опасности.

Моя взрослая жизнь протекала под тэгом «политического реализма». В подходе realpolitik демократические ценности (и вообще ценностный дискурс) — это «конечно же, круто, но недостижимо», а верящие в демократию люди — оторванные от жизни студенты-мечтатели. Но сейчас и Украина и Тайвань показывают, что как раз «оторванные от реальности» демократические идеалы могут стать суперсилой в XXI веке в условиях роста высоких технологий — и могут наконец изменить политическую реальность, где нет места ценностям.

Написал об этом статью «У Тайбеї завжди сонячно: чого Україна може навчитися у цифрової демократії Тайваню» для Забороны. С разрешения редактора для моих русскоязычных читателей публикую русскоязычную версию статьи.
3.3K views17:12
Открыть/Комментировать
2022-05-30 11:35:29 Как начинается цифровая диктатура?

Тезис о том, что война России и Украины — это война ценностей, может показаться на первый взгляд преувеличением, за которым скрывается только «просто политика». На самом деле, в этом тезисе скрыта правда. В борьбе свободы с контролем нет ничего нового. Но конкретно этой войне особой цивилизационной ценности и апокалиптического привкуса придает тот технологический этап, на фона которого она идёт. Дело в том, что Украина — довольно яркий пример хотя еще не проработанной, но уже цифровой демократии. А Россия — яркий пример еще не вполне цифровой, но уже автократии.

Учитывая вектор развития, который взяла РФ, полезно посмотреть на ее старшего брата — Китай, в котором авторитарная система уже достаточно крепко цифровизировалась.

У российской волокиты с заменой слова «война» на «специальную военную операцию» есть китайский побратим — события на площади Тяньаньмэнь, темное пятно на биографии китайской власти. И оно вытирается цифровыми средствами не только из официальной истории но из информационного потока и личного общения. О площади Тяньаньмэнь технически крайне сложно написать или прочитать в интернете из-за фильтров на соцсетях и поисковиках.

В России сейчас своя тяньаньмэньская площадь, но гораздо более масштабная — война с Украиной. Требование называть войну «специальной военной операцией» может показаться просто очередным бюрократическим бредом. На деле тестовый запуск работы цифровой диктатуры. Учитывая современные возможности, буквально через один шаг легко представить систему, которая будет распознавать и наказывать не только любое написанное слово «война», но и любое сказанное слово «война» — в том числе сказанное в частной беседе.

Как проходит этот тест? Кроме технических возможностей проверяют и другое: если общество в 20-х годах XXI века признает за правительством право цензурировать не только СМИ, но речь и даже мысли, создается удачный прецедент — и следующие подцензурные вещи будут регулироваться гораздо жестче.

Регулирование информационного потока и наказание людей, участвующих в «неправильном» информационном потоке имеет далеко идущие последствия. В юридическом поле много спорят о том, является ли преступником потребитель запрещенного контента — или только его производители. В авторитарном режиме потребитель, конечно, считается преступником. А список запрещенного контента при таком режиме множится с каждым днем. Например, высказанное вслух недовольство незаконченной стройкой или разваленным домом будет считаться дискредитацией власти и будет под запретом. А затем и само обращение внимания на эту стройку и дом.

К чему это приведет? К тому, что вскоре гражданская самоцензура будет работать не только в процессе создания контента — но даже в процессе потребления. Человек будет бояться даже узнать что-то — так как цифровые средства контроля позволят фиксировать это сразу и автоматически наказывать.

Цифровой авторитаризм исполнит мечту диктатора: наказание станет обязательным и неизбежным — в отличие от диктатур прошлого, где наказать за всё и всех было просто невозможно. Одна из причин падения репрессивной модели Советского Союза — невозможность наказать всех нарушивших предписания. Наказания были избирательными и показательными: большинство достаточно было запугать возможностью наказания — однако у диссидентов всегда была надежда на «всех не пересажаете». Но цифровая диктатруа исправит эту историческую ошибку. Уже совсем скоро она сможет наказывать автоматически всех нарушивших правила без исключения — и совершенно без затрат человеческого ресурса.
1.1K views08:35
Открыть/Комментировать
2022-05-23 14:56:49 Война прошлого с будущем

Пропал на три месяца, потому что живу в Киеве — столице страны, на которую напала Россия. Дела у меня, как и у Киева: жизнь всё это время кипела в борьбе со смертью, по окраинам нас потрепали, пару раз попали в центр личности, — но в целом я практически вернулся в норму, как для военного времени.

Идет война прошлого с будущим. Прошлое — это правительство РФ, мировоззрение «вернём всё взад», бряцанье устаревшим оружием и архаичное запугивание мира атомными бомбами. Это разрушение и откат, изоляция и разделение. А будущее — это Украина и ее союзники, открытые границы, взаимодействие и взаимопомощь, экономический рост и технологический прогресс.

Война повлияла на мои взгляды. Например, раньше я симпатизировал Китаю, как модели, которая показывает, что цифровой авторитаризм — это жизнеспособно и не так уж и плохо. Но китайский сателлит в лице правительства и «элит» РФ показал, что это невозможно и что от цифрового тоталитаризма не стоит ждать ничего, кроме как еще более худшей версии реальности, нежели в «1984» Джорджа Оруэлла. Теперь я абсолютно убежден, что цифровой должна быть именно демократия — и никаких заигрываний с цифровым авторитаризмом быть не должно в принципе!

Пускай и далеко не идеальное, но демократическое устройство в Украине с его многоголосьем, свободой действия и инициативы создало благородное коллективное сознание. Оно показало себя миру гораздо лучше, чем обработанные одним мнением централизованной пропаганды сознание 140 миллионов россиян.

Украинцы доказали: там, где есть свобода, прорастают очень благородные поступки, которых не ждешь, если смотришь на людей лишь с точки зрения бихевиориста, думая, что человек делает только то, чему его научили.

Россия доказала: да, бихевиоризм работает. Но меня мягко говоря не устраивают его результаты. Та «преступная дрессировка» народа, которая стала возможна в РФ при помощи пропаганды, действительно превращает людей в озлобленных животных. Говорят, впрочем, что человек может быть или гораздо хуже, или гораздо лучше животного. Кажется, мы отлично знаем, где и как начинаются пути к этим «лучше» и «хуже».

Теперь я уверен: нам нужно только цифровая демократия — где нет тотального контроля за информацией, где люди могут выбирать сами, где их информируют, а не обрабатывают, где голос каждого учитывается, а мнение может изменяться (и это нормально). При этом я уверен, что демократическое и прозрачное ИИ-управление в любом случае будет лучше, чем засидевшиеся у власти диктаторы и клептократы.

Я всегда повторял: будущее уже здесь, но оно распределено по миру неравномерно. Однако теперь я с горечью понимаю, что прошлое не просто всё ещё здесь, — его гораздо больше, чем я мог предположить. Сравните Дмитрия Рогозина и Илона Маска, чтобы почувствовать разницу между прошлым, которое маскируется под настоящее, и настоящим, которое устремлено в будущее.

Раньше я не мог осознать, как много вокруг нас прошлого — архаичного и устаревшего — прямо здесь и сейчас. Последние 5 лет я жил исключительно будущим, и из-за этого недооценил, насколько плотно прошлое держит некоторых из нас. Например, атомная энергия действительно принесет нам много всего хорошего, но в руках дебилов она превращается в каменную дубину, которая не способна ничего создавать и питать — только крушить и ломать.

Я не вел блог три месяца войны, потому что полностью сконцентрировался не на том, что я умею делать хорошо — а на том, что я должен делать, как умею. Для выживания во время войны самое важное — горизонтальные связи и помощь людям, которым она нужна. Теперь я готов вернуться к инструментам, которыми владею хорошо, с новым виденьем. Я думаю, главная наша цель — наконец оставить прошлое в прошлом, сделать так, чтобы оно отпустило настоящее, и дать дорогу будущему.

В этом блоге я хочу не только экспертно писать о будущем, но и обсуждать настоящее и создавать коммьюнити. Партия Прошлого выстроилась плотными рядами — так что нам, Партии Будущего, тоже нужно сплочаться.

Такие дела. А у вас как?
1.5K views11:56
Открыть/Комментировать
2022-02-21 15:08:03 ​Андрей Карпаты – 35-летний директор ИИ в Tesla. До прихода в Tesla, он несколько лет работал в другой ведущей ИИ компании OpenAI.

Недавно Илья Суцкевер из OpenAI заявил, что современные нейросети, возможно, уже немного сознательны. Многие ИИ-ученые разозлились и в ответ заявили, что Суцкевер спекулирует и хайпует на ровном месте – до сильного ИИ (AGI) нам еще очень далеко. Андрей Капраты был среди немногих, кто согласился с бывшим коллегой Суцкевером – вместе они представляют AGI-оптимистов.

Все ключевые технокорпорации так или иначе работают над созданием сильного ИИ, но не все могут себе позволить так открыто рассуждать об успехах в этой области. Например, громче всех Суцкеверу возражал Ян Лекун – один из отцов глубокого обучения и главный ИИ ученый в цукерберговской Meta, недавно лишившейся четверти своей капитализации. Цукерберг и так нахайпил со своим метаверсом, так что рассказы про сознательных роботов из недр его компании – это уже чересчур, ему и так сейчас никто не верит.

Почему Суцкевер и Карпаты решаются идти против ИИ-мейнстрима и отстаивают AGI-оптимизм? Может потому, что они сильно обошли конкурентов из Alphabet, Microsoft, IBM и Meta? Возможно, но маловероятно. Зато их хайп вполне объясним, если вспомнить, что за OpenAI, как и за Tesla, стоит Илон Маск.

На первый взгляд Маск кажется AGI-пессимистом: он годами рассказывает об угрозах AGI и о том, что мы будем неизмеримо глупее роботов. Да и вообще, мы точно не сможем победить AGI, так что лучше сразу настраиваться на сотрудничество и подчинение.

Но, с другой стороны, Маск – AGI-оптимист. Именно он основал OpenAI и сейчас превращает Tesla из авто-компании в ИИ-корпорацию. В январе он предположил, что его тесла-робо-гуманоиды Оптимусы помогут становлению сильного ИИ. Отдельно нужно разобраться, как в его сознании связаны AGI и нейроимпланты, которые разрабатывает его Neuralink.

Короче, Маск – основной публичный флагман AGI. Так что мы либо будем ему крайне признательны, либо он нас всех погубит. Посмотрим. В любом случае, будущее, придуманное Маском – гораздо интереснее и живее будущего, придуманного политиками.

Но вернемся к Карпаты. Он недавно написал интересный твит, в котором предлоил собрать вместе следующие технологии:

- распознавание лиц
- распознавание речи
- GPT в роли ядра «intelligence engine»
- text to speech и
- GAN для генерации лиц.

«Так можно создать цифрового человека, с которым можно будет общаться по вебкаму/телефону (но это будет просто «приодетый» GPT)», пишет Карпаты. Это конечно не AGI, но с точки зрения рядовых пользователей интернета – это уже почти оно.

А бонусом он предлагает «свести две таких сущности друг с другом на Twitch. Или сделать оболочку не человека, а животного, которое будет жить на смартфоне пользователя – получится Tamagochi++».
1.4K views12:08
Открыть/Комментировать
2022-02-19 14:01:40 ​Когда читаешь о метаверсе, создается ощущение будущего. А когда смотришь, как он выглядит на самом деле – возникает жгучее ощущение прошлого.

В прошлом году разработчики Everyrealm купили участок в виртуальном мире Decentraland за $913 000. Они назвали этот участок Metajuku в честь реального японского квартала Харадзюку, считающегося центром японской уличной моды.

На этой неделе JPMorgan, один из крупнейших банков мира, открыл свое виртуальное представительство в том самом Metajuku. Одновременно с этим банк выпустил отчет о метаверсе с подзаголовком «Как бизнес может исследовать метаверс и отличать хайп от реальности».

В отчете говорится, что метаверс – это бизнес-возможность на 1 триллион долларов. А в иллюстрирующей эту триллионную возможность виртуальной «лаунж зоне» JPMorgan ходит пиксельный тигр и висит фотография руководителя банка – миллиардера Джеймса Даймона.

Убогий вид этого виртуального лаунжа никак не вяжется в моем сознании с обещанным финансовым потенциалом метаверса и web3. Чтобы метаверс выглядел хорошо, технокомпаниям нужно совершить гигантский скачок вычислительных мощностей компьютеров и пропускных способностей серверов и решить еще миллион технических вопросов.

Создание технической базы для метаверса позволит отдельным компаниям заработать очень много денег. Обратите внимание, что Meta/Facebook уже стоит меньше, чем производители процессоров Nvidia и TSMC: никому не нужен метамир, если он выглядит, как игра из 90-х.

Другой крупнейший банк Goldman Sachs недавно посчитал, что метаверс – возможность на все 8 триллионов долларов. И Goldman Sachs и JPMorgan, к слову, стояли у истоков лопнувшего в 2008 году финансового пузыря, за которым последовал всемирный экономический кризис. И оба этих банка тогда финансово поддержало правительство США, пока миллионы простых американцев лишались домов и пенсий.

Я не сомневаюсь, что метаверс – это наше будущее: по-моему, это довольно печально, но это факт. Тем не менее, мне кажется, что прежде чем мы придем в это виртуальное будущее, мы пройдем через множество лопнувших пузырей, от которых пострадают не Даймоны этого мира, а рядовые крипто-бро, nft-энтузиасты и другие мета-мейты.
1.4K views11:01
Открыть/Комментировать
2022-02-17 13:45:01Дипфейк политика

Юн Сок Ёль – бывший генеральный прокурор Южной Кореи, а теперь – один из двух главных кандидатов в президенты на выборах 2022. Юн был обычным скучным 61-летним политиком, а стал первым в истории кандидатом, за которого с молодыми избирателями общается дипфейк-двойник ИИ Юн.

Для создания ИИ Юна, реальный Юн наговорил 3000 предложений (20 часов аудио и видео), а южнокорейская дипфейк-контора создала виртуальный аватар, который можно запрограммировать на любые слова и активность.

На специальном сайте корейцы задают ИИ Юну вопросы, а он отвечает на них видосами. Точнее, ответы за него придумывает команда молодых специалистов по смм и мемам, а нейросети потом «снимают» дипфейк видео с ИИ Юном.

Понятно, что речи для реальных политиков и так пишут специалисты, а уж активность в интернете – посты, ответы, мемчики – тем более просчитывается командами людей, а не самим политиком. Но ИИ Юну позволено гораздо больше, чем реальному политику: он разговаривает на жаргончике, обзывает своих конкурентов и шутит черные шутки – и ему все сходит с рук.

Корейские миллениалы и представители gen z, на которых рассчитана дипфейк-кампания, прекрасно понимают, что с ними разговаривает фейк, за который все шутки придумывают другие люди. Виртуальный политик не имеет почти никакого отношения к реальному политику. Тем не менее, популярность реального Юна за два месяца работы ИИ Юна выросла, и теперь он реально может выиграть выборы.

ИИ Юн наводит меня на две мысли:

1) ИИ уже пришел в политику и очень быстро ее завоюет: например, скоро речи дипфейк-политикам будут писать уже не люди, а нейросети вроде GPT-3. Выяснять, что хотят услышать избиратели, будут другие нейросети. Ну а потом и решать, что нужно стране, станут тоже нейросети.

2) Люди гораздо лучше подготовлены к отношениям с ИИ, чем нам всем казалось, во многом благодаря механизму проекций, описанному еще Фрейдом. Совсем скоро нейросети станут нашими лучшими друзьями, любовниками, психотерапевтами и лидерами мнений. Всё, как писал Пушкин:

Но притворитесь! Этот взгляд
Все может выразить так чудно!
Ах, обмануть меня не трудно!..
Я сам обманываться рад!
1.9K views10:45
Открыть/Комментировать
2022-02-15 12:39:12 ​Илье Суцкеверу 36 лет. Он один из топовых разработчиков ИИ и один из самых цитируемых компьютерных ученых в истории. В 2015 году он вместе с Илоном Маском и Сэмом Альтманом основал OpenAI – одну из двух ведущих ИИ-лабораторий, в которой, например, разработали самый продвинутый алгоритм обработки естественного языка GPT-3.

Суцкевер известен также своей верой в концепцию AGI или сильного ИИ, способного мыслить и осознавать свои действия. Создание осознающего ИИ – священный грааль всей ИИ-науки, но всерьез рассуждать о нем публично считается дурным тоном и профанацией, так как неясно, получится ли вообще когда-нибудь его создать, учитывая, например, что мы даже не знаем, что такое сознание.

И вот в конце прошлой недели Суцкевер написал в своем твиттере:

«Возможно, современные крупные нейросети – немного сознательные».

Этот твит спровоцировал широкий отклик в узкой среде элитных ИИ-ученых, большинство которых обвинили Суцкевера в хайпожорстве и оторванности от реальности. Советую всем интересующимся ИИ почитать тред под этим постом – там много полезных мыслей и ссылок и можно подписаться на реально крутых ИИ-ученых. И заодно послушайте, что сам Суцкевер говорил о создании AGI.

А вот другая цитата Суцкевера для тех, кто не хочет погружаться в технические нюансы AGI и тонкости определения сознания, но хочет представить, что это такое:

«Представьте своего самого умного друга, и еще тысячу таких же умных друзей, которые думают в 1000 раз быстрее чем обычно. Получится, что за один день они наразмышляют, как за три года».

Сейчас миром управляют люди – биологические машины, чьи нейросети думают каждый день и принимают решения о том, как должен выглядеть наш мир. Как вы думаете, как будет выглядеть мир, в котором думать и принимать решения будут настолько превосходящие нас в думании сущности?

Суцкевер предполагает, что в таком мире разовьются «бесконечно стабильные диктатуры». И почему-то всё равно рвется создавать AGI.
1.3K views09:39
Открыть/Комментировать
2022-02-13 18:39:27 В свежей колонке для Ножа постарался в общих чертах обьяснить сверхновую историю цензуры. А здесь добавлю несколько общих замечаний, объясняющих, почему в вопросе цензуры я — полный пессимист:

Во-первых, совсем скоро в нашем распоряжении будут почти идеальные инструменты для тотальной цензуры — с возможностью на ходу переписывать историю, редактировать освещение событий в прямом эфире и полностью вытирать из общественного пространства всё «неправильное».

Во-вторых, я не вижу абсолютно никаких причин, по которым власть (неважно, западная или восточная) не станет пользоваться этими совершенными цензурными инструментами. Свобода слова это, конечно, хорошо, но безопасность, как обычно, дороже — в этом нас будут убеждать наши цензоры.

И в-третьих, я думаю, что обычная цензура уступит место утонченной алгоритмической инженерии мнений, об инструментах которой я неоднократно писал в этом блоге: от перспектицида до цифровой модификации поведения.

Мы входим в эпоху, когда робоцензоры будут безжалостно эффективно выполнять заданные им формулы: «запретить мнение А» или «удалить пользователя вида Б».

Интересно то, что даже в тех обществах, где робоцензуры (пока) нет, люди зачем-то сами требуют ее ввести. Мне это кажется тревожным и печальным, а вам?
1.7K views15:39
Открыть/Комментировать