Малоизвестное интересное

2021-02-03 15:04:39 ​​DeepMind бросает вызов Богу, природе и эволюции.
Проект создания «Океана Соляриса» - самоорганизующейся разумной материи.
Вы сомневаетесь, что креативностью люди превосходят любой из возможных ИИ?
Тогда что вы скажете о проекте, цель которого превзойти креативностью самого Создателя?

Речь идет о создании принципиально иного типа разума. А заодно и мира, в котором такой разум будет жить, подобно Океану из романа Станислава Лема «Солярис».
• В этом мире не будет различий между организмами и машинами, поскольку нет разделения между агентом и окружающей средой.
• Здесь иной принцип появления и развития интеллекта - не эволюция живых организмов, а эволюция самоорганизующейся разумной материи (self-organizing intelligent matter), которую далее я буду называть «Океаном».

Океан состоит из атомарных элементов, способных на нейронные операции и взаимодействующих посредством обмена информацией на основе физико-подобных правил, свойственных окружающей среде.
Эволюционный процесс, идущий внутри Океана, ведет к появлению различных организмов (состоящих из множества атомарных элементов), которые могут сосуществовать и процветать в окружающей среде Океана.

Поскольку в этом мире нет даже понятия «агент», и существует только среда Океана, для эмуляции такого мира отпадает необходимость двух разных платформ (как в нашем мире) - одна для физической части (физический симулятор тела существа или робота) и одна для нейронной часть - нейросетевая структура, типа TensorFlow, PyTorch или Jax. Вследствие этого авторам хватило для эмуляции Океана одной платформы Jax, на которой они и экспериментируют.

Цели экспериментов:
1. Нащупать основу общего алгоритма генерации ИИ в среде Океана.
2. Понять, какая физика необходима для взрыва разнообразия и подъема интеллекта.
- Наш мир построен из элементарные частиц (кварки и электроны). Первые объединяются в протоны и нейтроны (и есть несколько других частиц, таких как фотоны), которые объединяются в атомы. Некоторые основные атомы (в первую очередь, углерод, водород, кислород, азот и фосфор) образуют большое разнообразие молекул в виде белков и других типов молекул, в конечном счете, служащих основой для построения клеток, как основных единиц жизни.
- В мире Океана, когда его фундаментальные единицы уже могут проявлять сложное взаимодействие и поведение, всё должно быть иначе.
Резюмируя, можно сказать, что авторы хотят построить более совершенный мир, чем создан природой.
• Мир, в котором не нужны сложная химия и классическая физика.
• Мир, в котором есть только основные законы энергии.
• Мир, которому, возможно, вообще не нужна какая-либо встроенная сложность.
• Мир, в котором, появление естественного и искусственного интеллекта – это одно и то же. И значит, создав естественный интеллект, можно будет использовать тот же путь для создания ИИ, способного превзойти естественный в неограниченном масштабе.

Вот чем (среди прочего) занимаются в компании №1 мира по разработке ИИ. А кто-то еще спрашивает, куда у DeepMind утекают миллиарды R&D бюджетов. Не удивлюсь, если среди прочего, они утекают в Океан.

#ИИ Открыть/Комментировать

2021-02-02 11:01:36 Незнание о незнании присуще не только дуракам. Самое известное когнитивное искажение оказалось миражом измерений.
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».

Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?

Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.

Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).

Но оказывается, такая трактовка ЭДК ошибочна
ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - http://bit.do/fNenX;
научно – http://bit.do/fNen3 http://bit.do/fNen7 http://bit.do/fNeoa.


ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.

Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?

Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.

Но это уже другая история, о которой будет отдельный пост.

#КогнитивныеИскажения #ИнтеллектуальнаяСлепота Открыть/Комментировать

2021-02-01 14:45:08 Обращение «безумного и злого» к интеллектуальным слепцам.
Джордано Бруно сегодня, скорее всего, снова бы сожгли, а Христа распяли.
Сегодня весь мир зашелся либо в остервенелых проклятьях, либо в удушающем саркастическом смехе по поводу обращения Билла Гейтса о том, как человечеству бороться с будущими пандемиями.
Как говорил Штирлиц, запоминается последняя фраза. И эта фраза в сообщении «ведущего государственного информационного агентства России» ТАСС на данную тему такова.
«Сторонники конспирологических теорий считают, что распространение коронавируса является спецоперацией для чипирования людей и последующего наблюдения за ними и что за ней якобы стоит Гейтс»
И что такое кликбейтовый заголовок, объяснять не надо. У «крупнейшего в мире международного поставщика мультимедийных новостей» Reuters он начинается словами «'Безумный и злой': Билл Гейтс …».

Так что же такого ужасного предлагает Гейтс?
Три стратегических элемента борьбы с новыми пандемиями (которые, увы, неизбежны).
1. Создание мегадиагностических платформ массового сверхбыстрого тестирования.
2. Создание глобальной системы эпидемического оповещения и международных сил быстрого пандемического реагирования.
3. Проведение «всемирных микробных игр» для массового привлечения экспертов к компьютерных симуляций новых пандемий, позволяющих анализировать и искать улучшение реакций правительств и обществ, точно так же, как военные игры позволяют вооруженным силам готовиться к реальным событиям.

Какими же интеллектуальными слепцами нужно быть, чтобы видеть за этими предложениями конспирологию, коварный замысел, алчное стремление обогатиться или призыв человечеству встать на колени перед вирусом?

И ведь пишут такое вовсе не глупые, некомпетентные или высокомерные невежды, уверенные в своем всезнании. Подобное пишут даже весьма умные и информированные люди.

Но почему они тогда такое пишут?

Их не смущает, что Гейтс говорит очевидные вещи?
• Что это не последняя пандемия и со временем придут пандемии в десятки раз хуже.
• Что мы не знаем не только, когда наступит следующий удар, но и каким он будет: грипп, коронавирус или какая-то новая болезнь, которую мы никогда раньше не видели.
• Что угроза следующей пандемии всегда будет висеть над нашими головами — если только мир не предпримет шаги для ее предотвращения.

Или они считают человека, создавшего одну из величайших компаний в истории человечества и уже внесшего 1,75 миллиарда долларов на глобальный ответ на пандемию COVID-19 выжившим из ума городским сумасшедшим?

Или, наконец, не веря в то, что «цель Гейтса всех чипировать», эти люди полагают, что предложения Гейтса — это де-факто оно и есть?

Увы! Уже не раз писал, что пределов у интеллектуальной слепоты нет. И мне остается лишь задать критикам предложения Гейтса два вопроса.
Известен ли вам или кому-либо другому на свете иной путь кардинального снижения рисков будущих пандемий?
Или эти риски не столь высоки, что вы предлагаете ими пренебречь?

Обращение Билла Гейтса https://www.gatesnotes.com/2021-Annual-Letter
#Эпидемия Открыть/Комментировать

2021-01-30 17:10:10 Когда в июне 2019-го я начинал цикл статей о «Большом брате – сыне Большого бога», мне казалось, что до возможной материализации этой антиутопии еще, как минимум, пара десятков лет. И потому я не спешил с публикацией всего цикла статей, полагая, что спешить некуда.
Однако, пандемия COVID-19 настолько ускорил большинство антиутопических трендов, что тянуть с публикацией серии статей о «Большом брате – сыне Большого бога» уже нельзя. Иначе может статься, что события опередят мои предсказания.
Поэтому я в срочном порядке дописываю данную серию. А поскольку она растянулась уже более чем на 1.5 года, имеет смысл:
• обновить в памяти читателей, какие материалы на эту тему уже были опубликованы;
• и опубликовать в открытом доступе то, что до сих пор было за пейволом.

Вот что уже опубликовано на эту тему

Первые две части серии «Большой брат — сын Большого бога»:
• 1я часть «Большой Брат — сын Большого Бога. Почему его воцарение в мире может быть неизбежным» (Medium, Дзен)
• 2я часть « Почему и когда пришли Большие Боги» (Medium, Дзен)

Другие посты, затрагивающие эту же тему
• «Превращение ИИ в АК-47» (Medium, Дзен)
• «Перейдет ли мир на китайский техно-авторитарный проект» (Medium, Дзен)
• «Подрывные технологии похоронят демократию» (Medium, Дзен)
• «ЛЮДИ, БОГИ, БОТЫ» (Medium, Дзен)
• «Большой Брат — сын Большого Бога» приходит в наш мир» (Medium, Дзен)
• Интервью изданию Republic, озаглавленное «У нашего общества уже нет всезнающего Большого Бога — люди лишены стимулов к правильному поведению» (Medium, Дзен)
• Интервью журналу «Эксперт», озаглавленное «Большой брат как наследник Больших богов» (Medium, Дзен)

#БольшойБрат #БольшиеБоги Открыть/Комментировать

2021-01-29 15:26:09 ​​«Спящая красавица» Стивена Вольфрама и новая теория относительности.
За горизонтом наука может быть совсем иной, позволяя путешествовать быстрее скорости света.
В недавней лекции Стивена Вольфрама «Наука за пределами горизонта», прочитанной в Институте перспективных исследований UvA, в частности, рассказывается о крупнейшей ошибке физики ХХ века - ошибке в специальной теории относительности (там же он рассказывает и о второй крупной ошибке - в квантовой механике).

Предположение, что пространство и время – это «сплав» 4-х измерений (пространство-время), ошибка Германа Минковского, сбившее физику с пути (и Эйнштейну, кстати, не нравился такой подход).
Как Вольфрам предлагает исправить эту ошибку, можно прочесть здесь. И если Вольфрам окажется прав, это будут значить, что существует способ путешествовать со скоростью, превышающей скорость света.

Хорошая новость – проект разработки новой физики на основе теории Вольфрама уже в работе.

Плохая новость ¬– теория Вольфрама пока не имеет достаточного влияния в современной науке, чтобы произвести в ней смену доминирующей парадигмы.

А от чего зависит степень влиятельности теории в науке?
Как это ни банально звучит – от количества цитирований работы. И тут вся надежда на то, что теория Вольфрама – это «спящая красавица» (см. 1, 2, 3). Так называются научные работы, десятки лет не имеющие значительного цитирования, но потом вдруг их цитирование экспоненциально взмывает в заоблачную высь (как, например, у нынче знаменитой работы Эйнштейна, Подольского и Розена).

«Спящие красавицы» - это колоссальный потенциал гениальности, способный поменять в жизни человечества что угодно: обнулить риски ядерного оружия, отменить пандемии, сделать возможным путешествия к далеким звездам). И потому исследования «спящих красавиц» становятся всё активней по мере осознания роста экзистенциальных рисков.

Главная проблема в пробуждении «спящих красавиц» – преодоления «синдрома Менделя». Он возникает, если какая-то публикация, чтобы быть должным образом признанной коллегами, требует больше времени, чем «нормальные» публикации, и из-за этого публикация становится недооцененной с помощью существующих методов наукометрии.

На наше счастье, в 2020 случился прорыв. Придуман новой метод оценки показателя «красоты спящих красавиц» с учетом оценок, возникающих в соцсетях.
• До сих пор при поиске «спящих красавиц» в базах научных публикаций оценивались лишь такие показатели, как «продолжительность сна», «глубина сна» и «интенсивность бодрствования».
• Теперь же предложено измерять также число просмотров, сохранений, коментов и шеров постов в соцсетях.

Такое расширение традиционных потенциальных признаков «спящих красавиц» показателями социального внимания может сократить «время сна красавиц» в несколько раз.

И тогда, возможно, нам не придется ждать гениальных прорывов до полувека (а в истории было и похуже, - когда через 50 лет теория вообще забывалась – «спящая красавица» впадала в летаргию), если социальные сети всерьез возьмутся за пробуждение «спящих красавиц».

Вот только как переориентировать хотя бы 10% людей в соцсетях на обсуждение «спящих красавиц» (вместо той хрени, что они так страстно обсуждают)?
#Физика #СпяшиеКрасавицы #СоциальныеСети Открыть/Комментировать

2021-01-27 17:37:59 ​​США пытаются оторваться, а Китай – сократить разрыв.
И то и другое – пока безуспешно.
Подведены первые итоги 2020-го в мировой ИИ гонке (по состоянию на январь 2021).
Новый отчет CENTER FOR DATA INNOVATION сравнивает результаты ИИ-гонки в 2020 и 2019 гг, показанные США, Китаем и Евросоюзом.
Сравнение проводится по 30 метрикам из 6 категорий: специалисты, исследования, разработки, оборудование, внедрения, данные.

Итог 2019 года был таков (сумма балов 100):
США – 44.2 балла
Китай – 32.3 балла
Евросоюз – 23.5 балла

Итог 2020 года был таков:
США – 44.6 балла
Китай – 32 балла
Евросоюз – 23.3 балла

Резюме – в заголовке поста.
Детали (много цифр и букв) в отчете.
https://www2.datainnovation.org/2021-china-eu-us-ai.pdf

P.S. Это самая странная в истории гонка, проводимая по принципу «поди туда — не знаю куда, принеси то — не знаю что»

#ИИгонка #Китай #США Открыть/Комментировать

2021-01-26 14:09:08 ​​Кибер-мощь России оказалась, как у Бразилии в футболе.
Если учесть непревзойденный потенциал кибер-харассмента.
Таково мнение экспертов НАТО.
75 лет мир держится на стратегии гарантированного взаимного уничтожения. Гонка вооружений не позволяет получить стратегическое преимущество. Скорость развития технологий позволяет противнику быстро изготовить такой же «меч», как придумал его соперник, либо придумать эффективный «щит» против нового «меча» соперника.

Единственный путь получить стратегическое преимущество – ассиметричная стратегия.
В данном контексте это означает возможность нанесения противнику таких ударов, которые он не может нанести в ответ.

Например.
При каком условии вы готовы дать по морде Майку Тайсону?
Ответ очевиден - если тот не сможет ответить вам тем же. И неважно почему он не сможет. Главное, - что не сможет. И этого достаточно, чтобы любой ботаник не убоялся врезать самому Тайсону.

Только что опубликован 260 страничный отчет Центра передового опыта сотрудничества в области киберзащиты НАТО (CCDCOE) «Киберугрозы и НАТО 2030: сканирование и анализ горизонтов».
Из отчета следует:
1. Главную угрозу НАТО видит не в ядерном оружии, а в киберугрозах – ударах противника, наносимых в киберпространстве.
2. Главный источник киберугроз - вовсе не Китай, а Россия.
3. Главное стратегическое преимущество России в киберпространстве – ассиметричность стратегии России, которую НАТО не может повторить, что дает России одностороннее превосходство, позволяющее осуществлять кибер- харасмент.

Коротко поясню все 3 ключевых пункта, как они изложены в отчете экспертов НАТО.

1) Попытки найти ассиметричные стратегии в физическом пространстве не увенчались успехом. Самая знаменитая история - "программа Звездных войн" США. "Русские играют с нами в шахматы, а мы с ними — в "Монополию". Вопрос в том, сумеют ли они поставить нам мат раньше, чем мы их обанкротим", — говорила про эту программу Джин Киркпатрик, тогда представитель США в ООН. Однако и эта самая дорогая из попыток получения ассиметричного стратегического преимущества не удалась.
И вот появилось новое поле боя – киберпространство. И оказалось, что здесь получение ассиметричного стратегического преимущества возможно.

2) Два самых мощных противника США – Китай и Россия, - имеют принципиально разные кибер-стратегии.
Стратегия Китая – разработка и экспорт по миру альтернативной авторитарной модели развития технологий. Такая стратегия не подразумевает нанесения ударов по США, и потому Китай даже не является военным противником США, а конкурент по мировому экспорту доминирующей модели развития технологий.
Россия же – главный и, по сути, единственный противник США в киберпространстве. И самое неприятное для США, - Россия имеет здесь ассиметричное стратегическое преимущество.

3) Это стратегическое преимущество России в том, что руководство страны планирует путем интернет-самоизоляции (физического отключения от глобальной сети) сделать свою инфраструктуру недостижимой для ответных ударов США.
Это позволит России заняться кибер-харассментом – т.е. регулярными действиями в кибер-пространстве, задевающими, пугающими или унижающими американское общество и создающими неблагоприятную обстановку для американского руководства. А поскольку США не смогут позволить себе самоизолироваться от глобальной сети, ассиметричное преимущество России в киберпространстве станет стратегическим. Россия будет бесконечно харассить США. А те в ответ ничего сделать не смогут. Закончиться это всё может, как и всякий харассмент, - нервным срывом у жертвы с последующим впадением в тяжелую, долговременную депрессию.

Подробней в отчете

Резюме
Получается, что кибер-мощь России, примерно, как у Бразилии в футболе. И значит сентябрьский отчет кибер-мощи 30 стран просто не учел главное – кибер-харассмент.
#КиберМощь Открыть/Комментировать

2021-01-25 15:19:09 Уникальное отличие людей от компьютеров.
Для нас хардвер – ничто, а софтвер – всё.
В основе колоссального прогресса IT-технологий (от распознавания всего на свете до самоуправляемых авто) – лавинообразный рост мощности вычислительного оборудования (хардвера).
Понятное дело, - с более мощным «хардвером» любое существо и/или устройство способно на подвиги.
Но люди не таковы.
Наш «хардвер» за 80 лет практически не изменился. А за этим колоссальным различием прыжков, взявших олимпийское золото в 1932 и 2012, - в основном, кардинальное улучшение «софтвера». И если бы (только представьте) чемпион 1932 года совершил тогда прыжок чемпиона 2012 года, его просто сочли бы сверхчеловеком и до конца жизни разбирали бы его на винтики в засекреченных лабораториях военных.

Вот аналогичные примеры из других видов спортивной гимнастики.
А это в плавании.

Вывод очевиден.
Ни одна машина не способна на такой прогресс в физической деятельности только за счет улучшения софтвера. А любой интеллект– это не только софтвер мозга, но и хардвер тела. И потому, одна из первоочередных задача ИИ в том, чтобы понять, как увеличивать интеллектуальную мощность без увеличения вычислительной мощности хардвера, а только за счет софтвера.
#ИИ Открыть/Комментировать

2021-01-23 13:38:58 Идет к концу первый месяц 2021, и хочется верить, что невзгоды 2020-го уйдут вместе с ним.
Ведь худо-бедно, - Байден всё-таки сменил Трампа, вакцины от короновируса уже сделаны, Европа не развалилась после брекзита и т.п.

Однако, многое говорит за то, что позитивными сдвигами дело не кончится. Ключевые проблемы вовсе не решены. И мир запросто может попасть из огня 2020-го да в полымя 2021-го.

Так что, не расслабляйтесь и запаситесь скептическим оптимизмом.

Как говорил император-стоик Марк Аврелий:
"Не теряйте мужества, худшее впереди."

Любивший эту фразу Черчилль добавлял:
«Успех — это движение от неудачи к неудаче без потери энтузиазма». Открыть/Комментировать

2021-01-22 21:02:59 ​​Каким мог бы быть Интернет без Google и Facebook.
Это не вопрос денег, а лишь воображения.
Многие из нас уже около половины времени проводят в сети. И таких все больше, да и доля времени в сети тоже растет. Нравится ли нам устройство сети? И да, и нет. Удобно конечно. Но при этом мы все больше осознаем, что все потоки информации – от поисковиков до соцсетей, - манипулируются машинным обучением.

Почему так произошло? Кто так придумал? И кто заставил сеть быть именно такой?

Как тонко заметил Руха Бенджамин - «поле битвы в нашем воображении». В настоящее время весь цифровой мир глобальной сети придуман в воображении венчурных капиталистов, глобальных корпораций и Марка Цукерберга. Чтобы вырваться из этого мира, нам нужно, для начала, суметь вообразить нечто иное – что будет лучше для нас.

Такая работа уже начата. Например, в Институте цифровой общественной инфраструктуры iDPI. Его задача выйти за рамки «исправления» существующих интернет-инфраструктур, типа Google, Facebook, YouTube и Twitter, и понять, что можно было бы построить вместо них, если строить цифровое пространство для общественного блага. Начали они с самого больного – какими должны быть неманипулируемые соцсети.

Не скрою, пока что у iDPI и подобных команд больше вопросов, чем ответов. Не так-то просто преодолеть в воображении стереотипы уже сложившейся цифровой инфраструктуры.

Но вот пример направления, которое, имхо, нужно всячески развивать.

Рейксмузеум Амстердама разместил в Интернете более 700 000 оцифрованных копий своей огромной коллекции произведений искусства и делает их доступными для повторного использования в качестве общественного достояния.

Создание новой онлайн-галереи, названной Rijksstudio, финансировалась лотереей BankGiro Lottery - это «культурная лотерея» Нидерландов, которая оказывает долгосрочную поддержку госпроектам в области культуры.
Вы можете просматривать и искать в Rijksstudio по жанрам, датам или художникам. А можете просматривать картины подряд просто для удовольствия. Все фото картин в высоком качестве.
Коллекция содержит более 2000 картин Золотого века Голландии, написанных известными художниками, такими как Якоб ван Рейсдал, Франс Хальс, Иоганнес Вермеер, Ян Стин, Рембрандт и ученики Рембрандта.
Каждая из отсканированных картин, фотографий и рисунков содержит подробную информацию о предмете и художнике, а также некоторую историю, например, когда и где она была приобретена.

Напомню, что Британский музей в прошлом году опубликовал около 2 миллионов изображений из своего архива в Интернете.

Подобным же образом, на мой взгляд, и должно строиться сетевое цифровое пространство для общественного блага. Почему бы, например, не приделывать к подобным онлайн-галереям движки социальных коммуникаций. Неужели будет хуже проводить время со знакомыми посетителями музея, чем в своем «пузыре» Facebook?
#Интеренет #СоциальныеСети Открыть/Комментировать