Малоизвестное интересное

2021-01-29 15:26:09 ​​«Спящая красавица» Стивена Вольфрама и новая теория относительности.
За горизонтом наука может быть совсем иной, позволяя путешествовать быстрее скорости света.
В недавней лекции Стивена Вольфрама «Наука за пределами горизонта», прочитанной в Институте перспективных исследований UvA, в частности, рассказывается о крупнейшей ошибке физики ХХ века - ошибке в специальной теории относительности (там же он рассказывает и о второй крупной ошибке - в квантовой механике).

Предположение, что пространство и время – это «сплав» 4-х измерений (пространство-время), ошибка Германа Минковского, сбившее физику с пути (и Эйнштейну, кстати, не нравился такой подход).
Как Вольфрам предлагает исправить эту ошибку, можно прочесть здесь. И если Вольфрам окажется прав, это будут значить, что существует способ путешествовать со скоростью, превышающей скорость света.

Хорошая новость – проект разработки новой физики на основе теории Вольфрама уже в работе.

Плохая новость ¬– теория Вольфрама пока не имеет достаточного влияния в современной науке, чтобы произвести в ней смену доминирующей парадигмы.

А от чего зависит степень влиятельности теории в науке?
Как это ни банально звучит – от количества цитирований работы. И тут вся надежда на то, что теория Вольфрама – это «спящая красавица» (см. 1, 2, 3). Так называются научные работы, десятки лет не имеющие значительного цитирования, но потом вдруг их цитирование экспоненциально взмывает в заоблачную высь (как, например, у нынче знаменитой работы Эйнштейна, Подольского и Розена).

«Спящие красавицы» - это колоссальный потенциал гениальности, способный поменять в жизни человечества что угодно: обнулить риски ядерного оружия, отменить пандемии, сделать возможным путешествия к далеким звездам). И потому исследования «спящих красавиц» становятся всё активней по мере осознания роста экзистенциальных рисков.

Главная проблема в пробуждении «спящих красавиц» – преодоления «синдрома Менделя». Он возникает, если какая-то публикация, чтобы быть должным образом признанной коллегами, требует больше времени, чем «нормальные» публикации, и из-за этого публикация становится недооцененной с помощью существующих методов наукометрии.

На наше счастье, в 2020 случился прорыв. Придуман новой метод оценки показателя «красоты спящих красавиц» с учетом оценок, возникающих в соцсетях.
• До сих пор при поиске «спящих красавиц» в базах научных публикаций оценивались лишь такие показатели, как «продолжительность сна», «глубина сна» и «интенсивность бодрствования».
• Теперь же предложено измерять также число просмотров, сохранений, коментов и шеров постов в соцсетях.

Такое расширение традиционных потенциальных признаков «спящих красавиц» показателями социального внимания может сократить «время сна красавиц» в несколько раз.

И тогда, возможно, нам не придется ждать гениальных прорывов до полувека (а в истории было и похуже, - когда через 50 лет теория вообще забывалась – «спящая красавица» впадала в летаргию), если социальные сети всерьез возьмутся за пробуждение «спящих красавиц».

Вот только как переориентировать хотя бы 10% людей в соцсетях на обсуждение «спящих красавиц» (вместо той хрени, что они так страстно обсуждают)?
#Физика #СпяшиеКрасавицы #СоциальныеСети Открыть/Комментировать

2021-01-27 17:37:59 ​​США пытаются оторваться, а Китай – сократить разрыв.
И то и другое – пока безуспешно.
Подведены первые итоги 2020-го в мировой ИИ гонке (по состоянию на январь 2021).
Новый отчет CENTER FOR DATA INNOVATION сравнивает результаты ИИ-гонки в 2020 и 2019 гг, показанные США, Китаем и Евросоюзом.
Сравнение проводится по 30 метрикам из 6 категорий: специалисты, исследования, разработки, оборудование, внедрения, данные.

Итог 2019 года был таков (сумма балов 100):
США – 44.2 балла
Китай – 32.3 балла
Евросоюз – 23.5 балла

Итог 2020 года был таков:
США – 44.6 балла
Китай – 32 балла
Евросоюз – 23.3 балла

Резюме – в заголовке поста.
Детали (много цифр и букв) в отчете.
https://www2.datainnovation.org/2021-china-eu-us-ai.pdf

P.S. Это самая странная в истории гонка, проводимая по принципу «поди туда — не знаю куда, принеси то — не знаю что»

#ИИгонка #Китай #США Открыть/Комментировать

2021-01-26 14:09:08 ​​Кибер-мощь России оказалась, как у Бразилии в футболе.
Если учесть непревзойденный потенциал кибер-харассмента.
Таково мнение экспертов НАТО.
75 лет мир держится на стратегии гарантированного взаимного уничтожения. Гонка вооружений не позволяет получить стратегическое преимущество. Скорость развития технологий позволяет противнику быстро изготовить такой же «меч», как придумал его соперник, либо придумать эффективный «щит» против нового «меча» соперника.

Единственный путь получить стратегическое преимущество – ассиметричная стратегия.
В данном контексте это означает возможность нанесения противнику таких ударов, которые он не может нанести в ответ.

Например.
При каком условии вы готовы дать по морде Майку Тайсону?
Ответ очевиден - если тот не сможет ответить вам тем же. И неважно почему он не сможет. Главное, - что не сможет. И этого достаточно, чтобы любой ботаник не убоялся врезать самому Тайсону.

Только что опубликован 260 страничный отчет Центра передового опыта сотрудничества в области киберзащиты НАТО (CCDCOE) «Киберугрозы и НАТО 2030: сканирование и анализ горизонтов».
Из отчета следует:
1. Главную угрозу НАТО видит не в ядерном оружии, а в киберугрозах – ударах противника, наносимых в киберпространстве.
2. Главный источник киберугроз - вовсе не Китай, а Россия.
3. Главное стратегическое преимущество России в киберпространстве – ассиметричность стратегии России, которую НАТО не может повторить, что дает России одностороннее превосходство, позволяющее осуществлять кибер- харасмент.

Коротко поясню все 3 ключевых пункта, как они изложены в отчете экспертов НАТО.

1) Попытки найти ассиметричные стратегии в физическом пространстве не увенчались успехом. Самая знаменитая история - "программа Звездных войн" США. "Русские играют с нами в шахматы, а мы с ними — в "Монополию". Вопрос в том, сумеют ли они поставить нам мат раньше, чем мы их обанкротим", — говорила про эту программу Джин Киркпатрик, тогда представитель США в ООН. Однако и эта самая дорогая из попыток получения ассиметричного стратегического преимущества не удалась.
И вот появилось новое поле боя – киберпространство. И оказалось, что здесь получение ассиметричного стратегического преимущества возможно.

2) Два самых мощных противника США – Китай и Россия, - имеют принципиально разные кибер-стратегии.
Стратегия Китая – разработка и экспорт по миру альтернативной авторитарной модели развития технологий. Такая стратегия не подразумевает нанесения ударов по США, и потому Китай даже не является военным противником США, а конкурент по мировому экспорту доминирующей модели развития технологий.
Россия же – главный и, по сути, единственный противник США в киберпространстве. И самое неприятное для США, - Россия имеет здесь ассиметричное стратегическое преимущество.

3) Это стратегическое преимущество России в том, что руководство страны планирует путем интернет-самоизоляции (физического отключения от глобальной сети) сделать свою инфраструктуру недостижимой для ответных ударов США.
Это позволит России заняться кибер-харассментом – т.е. регулярными действиями в кибер-пространстве, задевающими, пугающими или унижающими американское общество и создающими неблагоприятную обстановку для американского руководства. А поскольку США не смогут позволить себе самоизолироваться от глобальной сети, ассиметричное преимущество России в киберпространстве станет стратегическим. Россия будет бесконечно харассить США. А те в ответ ничего сделать не смогут. Закончиться это всё может, как и всякий харассмент, - нервным срывом у жертвы с последующим впадением в тяжелую, долговременную депрессию.

Подробней в отчете

Резюме
Получается, что кибер-мощь России, примерно, как у Бразилии в футболе. И значит сентябрьский отчет кибер-мощи 30 стран просто не учел главное – кибер-харассмент.
#КиберМощь Открыть/Комментировать

2021-01-25 15:19:09 Уникальное отличие людей от компьютеров.
Для нас хардвер – ничто, а софтвер – всё.
В основе колоссального прогресса IT-технологий (от распознавания всего на свете до самоуправляемых авто) – лавинообразный рост мощности вычислительного оборудования (хардвера).
Понятное дело, - с более мощным «хардвером» любое существо и/или устройство способно на подвиги.
Но люди не таковы.
Наш «хардвер» за 80 лет практически не изменился. А за этим колоссальным различием прыжков, взявших олимпийское золото в 1932 и 2012, - в основном, кардинальное улучшение «софтвера». И если бы (только представьте) чемпион 1932 года совершил тогда прыжок чемпиона 2012 года, его просто сочли бы сверхчеловеком и до конца жизни разбирали бы его на винтики в засекреченных лабораториях военных.

Вот аналогичные примеры из других видов спортивной гимнастики.
А это в плавании.

Вывод очевиден.
Ни одна машина не способна на такой прогресс в физической деятельности только за счет улучшения софтвера. А любой интеллект– это не только софтвер мозга, но и хардвер тела. И потому, одна из первоочередных задача ИИ в том, чтобы понять, как увеличивать интеллектуальную мощность без увеличения вычислительной мощности хардвера, а только за счет софтвера.
#ИИ Открыть/Комментировать

2021-01-23 13:38:58 Идет к концу первый месяц 2021, и хочется верить, что невзгоды 2020-го уйдут вместе с ним.
Ведь худо-бедно, - Байден всё-таки сменил Трампа, вакцины от короновируса уже сделаны, Европа не развалилась после брекзита и т.п.

Однако, многое говорит за то, что позитивными сдвигами дело не кончится. Ключевые проблемы вовсе не решены. И мир запросто может попасть из огня 2020-го да в полымя 2021-го.

Так что, не расслабляйтесь и запаситесь скептическим оптимизмом.

Как говорил император-стоик Марк Аврелий:
"Не теряйте мужества, худшее впереди."

Любивший эту фразу Черчилль добавлял:
«Успех — это движение от неудачи к неудаче без потери энтузиазма». Открыть/Комментировать

2021-01-22 21:02:59 ​​Каким мог бы быть Интернет без Google и Facebook.
Это не вопрос денег, а лишь воображения.
Многие из нас уже около половины времени проводят в сети. И таких все больше, да и доля времени в сети тоже растет. Нравится ли нам устройство сети? И да, и нет. Удобно конечно. Но при этом мы все больше осознаем, что все потоки информации – от поисковиков до соцсетей, - манипулируются машинным обучением.

Почему так произошло? Кто так придумал? И кто заставил сеть быть именно такой?

Как тонко заметил Руха Бенджамин - «поле битвы в нашем воображении». В настоящее время весь цифровой мир глобальной сети придуман в воображении венчурных капиталистов, глобальных корпораций и Марка Цукерберга. Чтобы вырваться из этого мира, нам нужно, для начала, суметь вообразить нечто иное – что будет лучше для нас.

Такая работа уже начата. Например, в Институте цифровой общественной инфраструктуры iDPI. Его задача выйти за рамки «исправления» существующих интернет-инфраструктур, типа Google, Facebook, YouTube и Twitter, и понять, что можно было бы построить вместо них, если строить цифровое пространство для общественного блага. Начали они с самого больного – какими должны быть неманипулируемые соцсети.

Не скрою, пока что у iDPI и подобных команд больше вопросов, чем ответов. Не так-то просто преодолеть в воображении стереотипы уже сложившейся цифровой инфраструктуры.

Но вот пример направления, которое, имхо, нужно всячески развивать.

Рейксмузеум Амстердама разместил в Интернете более 700 000 оцифрованных копий своей огромной коллекции произведений искусства и делает их доступными для повторного использования в качестве общественного достояния.

Создание новой онлайн-галереи, названной Rijksstudio, финансировалась лотереей BankGiro Lottery - это «культурная лотерея» Нидерландов, которая оказывает долгосрочную поддержку госпроектам в области культуры.
Вы можете просматривать и искать в Rijksstudio по жанрам, датам или художникам. А можете просматривать картины подряд просто для удовольствия. Все фото картин в высоком качестве.
Коллекция содержит более 2000 картин Золотого века Голландии, написанных известными художниками, такими как Якоб ван Рейсдал, Франс Хальс, Иоганнес Вермеер, Ян Стин, Рембрандт и ученики Рембрандта.
Каждая из отсканированных картин, фотографий и рисунков содержит подробную информацию о предмете и художнике, а также некоторую историю, например, когда и где она была приобретена.

Напомню, что Британский музей в прошлом году опубликовал около 2 миллионов изображений из своего архива в Интернете.

Подобным же образом, на мой взгляд, и должно строиться сетевое цифровое пространство для общественного блага. Почему бы, например, не приделывать к подобным онлайн-галереям движки социальных коммуникаций. Неужели будет хуже проводить время со знакомыми посетителями музея, чем в своем «пузыре» Facebook?
#Интеренет #СоциальныеСети Открыть/Комментировать

2021-01-21 14:28:16 Ловушка уныния – самое опасное когнитивное искажение для общества.
Но петли отрицательных обратных связей можно разорвать.
Оглядываясь на прошедший год, трудно не испытать приступ безнадеги.
• Накрывшая мир инфопандемия COVID-19 и панически-идиотическая реакция на нее большинства правительств.
• Ненасильственный протест сотен тысяч и зверские расправы диктатора в ответ.
• Судорожные попытки самовлюбленного идиота удержать власть и танец полуголого шамана в Капитолии.
• Обнуление вкупе с обрезанием конституции так, что уже, кажется, больше никогда не отрастет…

В результате всего этого повсеместного торжества непреодолимого идиотизма, всё больше людей впадают в «ловушку уныния» - одно из самых опасных когнитивных искажений.
Очень важно понимать, что помимо нарастающего депресняка безысходности, страшнейшим последствием этого когнитивного искажения становится цикл отрицательной обратной связи, в котором невозможность исправить ситуацию становится самореализующейся.

И еще важнее понимать вот что.
Если не останавливать усилия в борьбе, если не сдаваться и продолжать держаться стиснув зубы, то неизбежно достижение критического порога, после прохождения которого вы победите (желающие могут перечитать «Мексиканец» Джека Лондона).
Успех подобных побед может быть очень заразителен, стимулируя еще неделю назад невозможный уровень мобилизации.

Об этом, на примере законодательного успеха французских активистов, первыми в мире сумевших пробить закон «Об обязанности проявлять должную осмотрительность» (интеграция социальной и экологической ответственности крупных корпораций), рассказывается в брифе Элис Эванс, где есть и ссылка на глобальный проект и большую статью Эванс на эту тему.
https://www.rebuildingmacroeconomics.ac.uk/post/despondency-trap-how-to-break-the-negative-feedback-loop

Казалось бы, что здесь нового.
Да лишь то, что все мы знаем про опасность самореализующихся пророчеств. Но как-то забываем о циклах отрицательной обратной связи, в которых невозможность исправить ситуацию также становится самореализующейся.
#КогнитивныеИскажения Открыть/Комментировать

2021-01-20 17:33:02 У ИИ и людей та же проблема, что была у людей с западным черным носорогом – несовпадение целей.
Чрезвычайно интересный разговор одного из осведомленнейших в области ИИ людей с одним из лучших интервьюеров.

Вот лишь несколько важных цитат из первой половины трехчасового разговора.

Главный риск не превосходство ИИ над людьми, а ошибочно отдаваемая ИИ лидирующая роль во многих важнейших аспектах жизни общества.
[00:02:08]
Я считаю, что алгоритмы, которые управляют нашим взаимодействием в социальных сетях, уже обладают интеллектом и силой, намного превосходящими интеллект власти любого человека. Сейчас действительно самое время подумать об этом, определить траекторию взаимодействия техники и человека в нашем обществе. Я думаю, что будущее человеческой цивилизации вполне может быть поставлено на карту именно из-за этого вопроса о роли искусственного интеллекта в нашем обществе.

Если, не дай бог, будет создан общий ИИ, это может привести к катастрофе. Ибо это самый небезопасный и самый безрассудный подход
[00:30:31]
Единственное, что пугает меня до смерти, - это то, что мы просто собираемся создавать все более крупные системы, которые мы все еще не понимаем, пока они не станут такими же умными, как люди. Ведь что-то может пойти не так, верно? И потому я думаю, что это просто безрассудный путь. Ведь, к сожалению, если мы действительно преуспеем в создании общего ИИ, мы создадим его, не понимая, как он работает.

О пропаганде, манипуляциях и Трампе
[01:02:57]
Пропаганда вообще не нова, и стимулы манипулировать людьми тоже не новы. Что же в этом нового? Новое в том, что машинное обучение встречается с пропагандой. Вот почему все стало намного хуже. Вы знаете, некоторые люди любят обвинять определенных людей, как в моем либеральном университетском пузыре. Многие люди обвиняют Дональда Трампа и говорят, что это была его вина. Я вижу это по-другому. Я думаю, что Дональд Трамп просто оказался первым влиятельным человеком в эпоху алгоритмов машинного обучения, обладающим чрезвычайно высоким навыком манипулятивной игры.

О добре и зле машинного обучения
[01:05:44]
Машинное обучение и технологии в целом - это не зло, но и не добро. Это просто инструмент, который вы можете использовать для того, чтобы хорошие вещи были плохими. И как это бывает, машинное обучение в новостях в основном используется крупными игроками, большими технологиями, чтобы манипулировать людьми, заставляя их смотреть как можно больше рекламы, но которые имеют это непреднамеренное последствие действительно испортить нашу демократию и раздробить ее на фильтрующие пузыри.

О двух страшных итогах триумфа машинного обучения
[01:21:48]
Первый - полное разрушение демократии, когда наш поток информации манипулируется машинным обучением. Второй – начало гонки вооружений автономного смертоносного оружия.

Об Илоне Маске
[01:49:02]
Он мыслит более длительной перспективой. Ему гораздо яснее, чем большинству людей, что то, что мы делаем с этой русской рулеткой, в которую мы продолжаем играть с нашими ядерными зарядами, - это действительно плохая стратегия, действительно безрассудная стратегия, а также что мы просто создаем эти все более мощные системы ИИ, которые мы не понимаем… Он такой позитивный провидец… И меня так бесит, когда люди пытаются выставить его каким-то Технофобом Луддитом. Он же просто понимает риск того, что мы создаем невероятно компетентные системы, а это значит, что они всегда будут добиваться своих целей, даже если они вступают в противоречие с нашими целями… Почему, например, мы, люди, заставили вымереть западноафриканского черного носорога? Это потому, что мы злобные носорого-ненавистники? Нет, это просто потому, что наши цели не совпадали с целями тех носорогов.



#ИИ #AGI Открыть/Комментировать

2021-01-19 16:50:17 ​​Китаю будет тяжко с развитием ИИ.
Куда будут течь мировые реки лучших мозгов.
Можно бесконечно гадать, кто победит в глобальной ИИ гонке. США, Китай, а может быть некая тёмная лошадка?
Команда Perry World House и FHI Oxford проявила творческий подход в поисках ответа на этот вопрос. Их ответ прагматичен: победит тот, кто соберёт больше лучших мозгов среди глобального пула исследователей. А это будет зависеть от того, где захотят работать в ближайшие годы лучшие спецы мирового уровня.

Проведя опрос 3+ тыс. лучших исследователей и инженеров по ИИ, чьи работы были приняты двумя топовыми мировыми конференциями NeurIPS и ICML, организаторы получили кучу информации об иммиграционных преференциях опрошенных.

Главный итог таков:
Среди респондентов, в настоящее время не проживающих в США, считают, что с вероятностью более 25% в течение следующих трех лет они уедут работать:
• в США - 60%
• в Великобританию - 35%
• в Канаду - 28%
• в Китай - 10%

При этом, для 60% желающих уехать работать в США, самая главная проблема – решение иммиграционных и юридических вопросов.
А для 10%, желающих уехать в Китай никаких проблем с этим нет. Но зато есть проблемы с не самой высокой оценкой профессиональной среды и потенциальных возможностей страны в контексте развития ИИ.

Российских респондентов в опросе не оказалось, в связи с бесконечно малым количеством российских участников на главных мировых форумах по ИИ.
А ехать в Россию из других стран тоже никто не хочет (такая возможность предоставлялась в опросе графой «уехать в страну, отсутствующую в списке»).
Ну а почему Россия даже в список желаемых стран не попала, - так это все происки завистливых врагов. Ибо они чувствуют, что в конце концов лучшие специалисты по ИИ все равно приедут в Россию.
https://drive.google.com/file/d/1z-Uy4qZrygnNMGv5pni0Cm7M0rdcEh0r/view
#ИИталанты #Китай #США Открыть/Комментировать

2021-01-18 17:27:29 ​​Кругом нас не одни идиоты.
Крутейший прорыв в психологии взаимонепонимания.
Мир захлебывается от поляризации мнений, научных гипотез и морально-этических расхождений. По любому важному вопросу – от потепления и ГМО до масок и вакцинаций, - сторонники противоположных позиций в баталиях споров теряют друзей и остатки веры в разумность оппонентов, все более склоняясь к непреодолимости когнитивных искажений и пороков мышления людей, ведущих во тьму интеллектуальной слепоты.

Лучом света в этом все быстрее темнеющем царстве может стать новая прорывная гипотеза Войтовича и ДеДео, опубликованная ими в работе «От вероятности к согласию: как объяснительные ценности реализуют байесовское рассуждение».

Эта гипотеза:
может дать продуктивный способ смягчения противоречий (а то и способом преодоления) взаимонепонимания групп специалистов и общественности, стоящих на противоположных позициях в самых жизненно важных научных и морально-этических вопросах;
позволяет переосмыслить объяснительные пороки, которые движут теории заговора, заблуждения на основе отрицания науки и экстремистские идеологии.

Предложенная Фристоном новая «конституция биоматематики» предполагает, что мозг использует байесовскую модель мира и байесовский вывод— основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.

Войтович и ДеДео пошли похожим путем, предложив байесовское объяснение того, как в нашем мозге сочетается множество объяснительных ценностей, на основе которых мы принимаем или отвергаем объяснения некоторых фактов (обычно, оппоненты соглашаются с фактами, но категорически не согласны с их объяснением).

Если любопытство побуждает искать ответы на важные вопросы, то объяснительные ценности - это субъективные состояния, связанные с получением удовлетворения при нахождении «хороших» (нравящихся) ответов.

В работе Войтовича и ДеДео:

1. Предложена таксономия объяснительных ценностей – неких измерений, по которым мы оцениваем объяснения как лучшие или худшие.
2. Полученная таксономия дает набор предикторов того, из чего складываются предпочтения людей к тем или иным объяснениям, а также показывает, как основные ценности психологии, статистики и философии науки возникают из общей математической структуры байесовской процедуры.
3. Операционное применение таксономии и байесовского подхода позволяют измерять и сравнивать объяснительные предпочтения в различных контекстах, включая визуальное восприятие, политику и науку.

Предельно упрощая, можно сказать, что объяснительные ценности делятся на две группы:
• первая связана с оценкой объяснения в свете опыта,
• а вторая касается внутренних особенностей объяснения.

Неспособность настолько хорошо объяснить, чтобы убедить оппонента, может быть понята как дисбаланс в этих ценностях.
Если найти баланс, оппонент может согласиться. Но нахождение баланса между многими объяснительными ценностями является сложной когнитивной проблемой.

Авторы приводят примеры нахождения баланса между объяснительными ценностями:
• простоты и эстетической элегантности объяснения
• сложных сообъяснений, пытающихся решить сразу несколько головоломок одним махом.

Особенно интересны примеры, приводимые авторами по теории заговора.
Например, история террориста из Оклахома-Сити Тимоти Маквея, который был арестован вскоре после взрыва за то, что ехал без номерного знака с заряженным пистолетом на пассажирском сиденье. Людям было трудно понять, как преступный гений может быть таким беспечным козлом. И потому многим было куда легче поверить, что Маквей просто стал козлом отпущения в заговоре элиты.

На приложенном рисунке: слева – кадр из рассказа о конспирологическом меме Pepe Silva, справа – один из авторов исследования Саймон ДеДео.
#Поляризация #Раскол #КогнитивныеИскажения Открыть/Комментировать