NoNaMe Пишет

2022-01-24 12:48:01 Компьютеризация КНДР и её интранет: интервью с Константином Асмоловым

О том, как выглядит современная Северная Корея в смысле цифровизации, распространения компьютерной техники, интернета и внутренних сетей:
https://habr.com/ru/company/ruvds/blog/646925/ Открыть/Комментировать

2022-01-17 17:29:06 ​Словарь цифровой осознанности: Алгократия

Алгократия – это форма социального устройства, в которой алгоритмы ИИ принимают активное участие в управлении обществом: правительством, бизнесами и гражданами. Алгоритмы власти создаются компаниями и/или правительствами на основе данных пользователей и граждан.

Алгократия возможна за счет растущего количества больших данных, производимых людьми, и развития нейросетей, способных анализировать эти данные и принимать на основе анализа решения.

Люди следят за погодой и колебаниями рынка, здоровьем и политическими предпочтениями других людей. На основе этих данных чиновники, бизнесмены и граждане принимают решения об устройстве и функционировании общества – часто ошибочные. Во многих областях способность нейросетей принимать решения на основе данных уже превосходит способности людей: от поиска новых антибиотиков и игры в шахматы до расстановки чипов на микросхемах и распознавания опухолей на рентгеновских снимках.

Руководство страной и компанией – это тоже принятие решений на основе имеющихся у руководителей данных. Нейросети будут помогать людям принимать оптимальные решения, а со временем будут все чаще принимать решения по управлению обществом вместо людей.

Ключевые представители современной алгократии – Китай и американские технокопорации.

Каждую секунду алгоритмы Facebook выдают 6 млн предсказаний для 2,8 млрд пользователей соцсети. ИИ выбирает, каким контентом заполнить ленту пользователя, и решает, какие посты и пользователи нуждаются в бане или увеличении видимости.

В Китае работает государственная система социального рейтинга пользователей: на основе собранных данных алгоритмы начисляют и вычитают гражданам и компаниям очки, а место в рейтинге обеспечивает награды (меньший процент на кредит) или наказания (запрет на покупку авиабилетов).

Два главных вопроса алгократии:
– Каковы границы контроля и власти алгоритмов над людьми?
– Какой баланс между человеком и ИИ оптимальный при принятии решений?

#чнс_словарь Открыть/Комментировать

2022-01-11 14:27:16 хорошее, романтическое такое эссе о том, почему умер киберпанк - в формулировке автора, пережил death of cool. и почему все мы оказались там, где оказалось в этом нашем интернете

немного избыточная, графоманская, но со множеством милых сердцу каждого любителя жанра референсов, деталей, и точных наблюдений. например, что условное киберпространство Гибсона выглядело как нереальное, но физически существующее место с привычными нам формами и четкими границами предметов, с явно проступающими признаками опасности и буквально знаками о том, что тут нам и конец. тогда как современное киберпространство это скорее территория с размытыми очертаниями крупнейших хабов, которые сплетаются между собой и не дают возможности понять, где именно заканчивается один и начинается другой. и которые заняты главным образом тем, что морочат нам голову, искажают и создают реальность с одной единственной целью извлечения прибыли - но именно экономика, а не культура и создала современный интернет. поэтому он такой. но был ли у него реальный шанс стать другим? и есть ли этот шанс сейчас?

да и весь ресурс рекомендую
https://bloodknife.com/nowhere-here-cyberspace/ Открыть/Комментировать

2022-01-05 21:41:29 Маячки AirTags все-таки стали инструментом любительской слежки, пишет The New York Times. Например, “жучки” от Apple подсоединяют к автомобилям — таким способом можно отследить перемещения человека. А в Канаде зафиксировали несколько случаев использования AirTag для отслеживания дорогих авто — так угонщики планировали выяснить, где паркуются машины.

Одна из героинь материала обнаружила AirTag на задней панели номерного знака. Установить, кто именно присоединил его к машине, так и не удалось. NYT поговорила еще с шестью девушками, которые подверглись digital-сталкингу — при этом только одной удалось выяснить, кто именно подкинул ей маячок.

Большинство обнаружило девайс после оповещения, которое пришло на айфон. Сигнал приходит не сразу и не всегда — обычно на распознавание уходит несколько часов. Одной из девушек AirTag подкинули в баре, а оповещение она получила уже дома, спустя какое-то время. Таким образом, кто-то мог беспрепятственно выяснить, где она живет.

Представители Apple советуют в любой непонятной ситуации обращаться в полицию. В теории компания может выяснить, кому принадлежит маячок. Но найти сам AirTag удается не всегда — часто люди получают оповещение, но девайс обнаружить не могут. А полиция не воспринимает такие обращения всерьез: загадочный сигнал — не повод заводить дело.

Недавно Apple выпустила апдейт — теперь AirTags издают звуковые сигналы, если в течение дня они так и не подключились к “родному” айфону. А владельцам смартфонов на Android компания рекомендует установить специальное приложение, которое распознает маячки.

Впрочем, часто AirTags используют в якобы благих целях — например, тревожные родители подкидывают маячки своим взрослым детям, чтобы отслеживать их перемещения. Кажется, это уже было в какой-то антиутопии?

*Как инженеры-любители хакают AirTags
*Что будет, если отправить маячки AirTag в штаб-квартиру Apple, SpaceX, а заодно и в Северную Корею Открыть/Комментировать

2022-01-05 17:44:02 В Казахстане отключили весь интернет (на фоне практически революции в стране). На самом деле судя по всему VPN и Tor еще позволяют иногда прорываться во внешний интернет, однако блокировки мощнейшие. Напомню, еще два и три года назад Казахстан пытался заставить всех пользователей установить сертификат, позволявший проводить атаку “kazakh in the middle”.

https://netblocks.org/reports/internet-disrupted-in-kazakhstan-amid-energy-price-protests-oy9YQgy3

Напомню тут, а то многие спрашивают: я всегда ссылаюсь на англоязычные источники и не пишу на базе русскоязычных. То что вы видите в русскоязычных статьях и каналах вы можете прочитать и сами. Открыть/Комментировать

2022-01-03 11:24:43 ​​Я не люблю делать покупки в интернете. Раньше я спокойно относился к формочкам, где просят в стотысячный раз ввести домашний адрес, данные банковской карты, пройти на следующий шаг и выбрать метод доставки и тд и тп (не забыть отжать галочку «получать новости»!). Теперь мне жалко на это время и мозга. Амазон (подставьте любой крупный марктеплейс) делает великое дело — один раз зарегистрировался и при нажатии «купить», все данные автоматом подсасываются из личного профиля.

При этом идеологически, централизация интернет-покупок мне нравится не больше, чем любая другая централизация.

Какой же приятный шок я сегодня испытал, когда воспользовался кнопкой « Pay» в небольшом интернет-магазине. Нажимаешь одну кнопку и поднимается системный интерфейс iOS с 4 пунктами: 1) банковская карта 2) контакт (электронная почта или телефон), 3) адрес доставки и 4) метод доставки. Все поля предзаполнены моими данными, внизу — полная стоимость и предложение подтвердить покупку одним нажатием. Магия! И никакой централизации!

Так я думал, пока не полез читать документацию. Для интернет-магазинов, Apple Pay или аналогичный Google Pay — ещё один посредник, вдобавок в банкам и международной платежной системе типа MasterCard. У этого посредника свои правила, ограничения (пожертвования, например, нельзя собирать без специального разрешения господ из Apple, а уж издеваться над продуктами эпла и вовсе запрещено) и своя комиссия. Без дополнительной централизации не обошлось :(

Интересно, что технически существует общее API, которое позволяет веб-браузерам и магазинам реализовать такую же удобную оплату одним кликом с обычными банковскими картами, без всяких Apple и Google. Это не сделано. Что логично, ведь Safari разрабатывает Apple, а Chrome — Google! Вот так становится видно, зачем вкладывать миллионы долларов в разработку ведущих «бесплатных» веб-браузеров.

Удивительно, что такая очевидная функциональность веб-браузера: сохранить и автоматически заполнить адрес и платежные реквизиты в интернет-магазинах, была реализована только в тот момент, когда у мега-корпораций появился способ заработать на этом свой небольшой процент. Принято считать, что веб-браузер — это инструмент пользователя, его даже называют так — user agent. На этом примере становится видно, что современный браузер — это инструмент, которым нам дают попользоваться, а музыку здесь заказывают совсем другие люди.

Надеюсь, что я чего-то не понимаю и зря надел шапочку из фольги. Буду рад, если профи разъяснят. Открыть/Комментировать

2021-07-22 19:30:11 По статистике Cybersecurity Ventures, киберпреступления в последнее десятилетие стали прибыльнее, чем наркоторговля. К марту 2019-го хакеры украли более 14 млрд записей данных, а каждые 39 секунд в мире случается хакерская атака. При этом сохранности информации россиян угрожают не только злоумышленники, работающие на себя, но и государство, регулярно сливающее личные данные граждан и следящее за ними с помощью «пакета» Яровой, законов о связи, обязательной предустановке российского ПО и суверенном интернете.

В ликбезе об основах информационной гигиены вы узнаете, какие сервисы помогут безопасно пользоваться браузером, общаться и хранить информацию, почему важно шифровать данные и не пользоваться отечественным софтом, как обезопасить интернет-шопинг и понять, что ваши пароли утекли, и стоит ли заклеивать веб-камеру, пользоваться платными антивирусами и зарубежными симкартами.

https://discours.io/articles/social/cybersecurity-tips Открыть/Комментировать

2021-05-27 15:26:44 На Aeon хороший текст с неудачным заголовком про predictive processing и соцмедиа на пальцах.

Начинается все с привычного Ги Дебора (уравнявшего наличие и демонстрацию) и инфлюенсеров, пересобирающих свое лицо для инсты и удаляющих посты, набравшие лайков меньше положенного.

В 2017 социальные платформы стали фигурировать в отчетах здравоохранительных учреждений как факторы развития депрессии, тревоги и аддикции. Одним из ответов на это, например, стало ограничение видимости лайков у постов.

Все это понятная и популярная вещь, но важно разобраться в самих когнитивных механизмах этих патологий. Архитектура некоторых платформ спроектирована как система цифровой доставки гиперстимуляторов. Такие системы в тексте предлагают рассматривать в рамках теории predictive processing (позволим себе назвать это «предсказательной обработкой»). По этой теории мозг рассматривается как «машина предсказаний» — он пытается предугадать сенсорные сигналы при взаимодействии с миром и минимизировать отклонение ожиданий от реальности. Со временем мозг выстраивает на основе шаблонов и статистических зависимостей генеративную модель, структурированное знание о мире. Точность предсказаний повышается двумя способами: обновлением самой модели или попыткой изменить окружающий мир, чтобы он лучше соответствовал модели. Так разум движется от неопределенности к определенности, и защищает нас от скрытых угроз.

Эта теория позволила иначе взглянуть на проблему патологического привыкания — одним из факторов оказывается влияние веществ на точность оценок и эмоциональный отклик, а сама патология описывается как распад отношений между субъектом и средой (т.е. берется более широкая оптика). Проще говоря, модель мира наркомана не соответствует реальному миру, но при этом употребление веществ создает ложное ощущение актуальности модели.

Ошибки в предсказании ощущаются нами на эмоциональном уровне, как и разрешение противоречий. Как «предиктивные организмы», мы ищем эти самые разрешимые ошибки — заточившие в домах людей ковид и изоляция привели к росту продаж паззлов, например. Без этого, согласно теории, мы бы просто пытались вечно избегать неопределенности (и повымерли бы в пещерах, вероятно). А вот депрессия рассматривается здесь как состояние избыточной жесткости (или дефицита пластичности) модели — любой малозначительный шум сигналов воспринимается как неразрешимая ошибка предсказания, к которой добавляется подкрепляемое собой же ожидание, что любые наши действия по приближению мира к модели обречены на провал.

Соцмедиа вызывает сильную коррозию генеративной модели, искажая образ и нас самих, и мира вокруг. Например, когда мы по 20 раз делаем селфи с разными улучшайзерами и фильтрами — это подгонка реальности под модель, и таким промышленным созданием ложных свидетельств о мире занимается условно каждый второй пользователь. Так соцмедиа расширяют пропасть между нефильтрованной оффлайновой реальностью и ее моделями. Хороший пример из текста — более половины опрошенных в одном исследовании косметических хирургов сталкивались с запросами клиентов на операции, которые могли бы повысить их привлекательность в онлайне; клиенты показывали в качестве ориентиров свои же обработанные фотографии. Мы привыкаем к своим улучшенным виртуализированным образам, наблюдаем сильный разрыв между одобрением в онлайне и реакцией на нас в оффлайне, и стремимся минимизировать это расхождение. Простой вывод из статьи: соцмедиа как гиперстимулятор имеет такое же отношение к социализации, какое порнография имеет к сексу. В то же время неопределенность вознаграждения (сколько лайков?) приближает соцмедиа к казино и гэмблингу. А стоимость компаний напрямую зависит от силы создаваемых ими привычек. Открыть/Комментировать

2021-05-14 13:20:16 ​​Современный ИИ – это игрушечная собачка.
Почему ИИ сложнее, чем мы думаем
• ИИ не знает, что снеговики не бегают, - таков печальный итог 63 лет развития ИИ
• Машинное обучение - это современная алхимия
• Сильный ИИ – не хайп, а фейк, и его невозможно создать
Если смешать (но не взбалтывать) эти три моих поста, украсив полученный коктейль прекрасным научным слогом и авторитетом профессора компьютерных наук ряда университетов Мелани Митчелл, - получится отличная статья «Четыре заблуждения об ИИ. Исследователи ИИ обманывают себя, утверждая будто интеллект человеческого уровня вполне достижим. И вот почему».

1. Триумфализм (ИИ лучше нас в шахматах, го, различных компьютерных играх, некоторых типах распознавания изображений и т.д.). На самом деле, «всё это подобно утверждению, будто первая забравшаяся на дерево обезьяна продвигалась к будущей высадке на Луну. Но на самом деле, на этом пути возникает множество неожиданных препятствий».
2. «Парадокс Маравека» (сложные для людей действия - игра в шахматы, перевод языков и высокие результаты тестов интеллекта - относительно просты для компьютеров; но то, что нам кажется легким, - подниматься по лестнице, болтать и избегать простых препятствий - сложно для компьютеров).
3. Выдавание желаемого за действительное (все успехи ИИ в узких областях, пока непереносимы на общие человеческие способности).
4. Ошибочное предположение, будто интеллект полностью находится в мозге, и что он в принципе может быть развоплощенным.

Про п. 4 (про который я пишу более всего) Митчелл очень четко текстует.
«Большая часть нашего интеллекта передана на внешний подряд в человеческую форму. Например, если вы прыгаете со стены, нелинейные свойства ваших мышц, сухожилий и связок поглощают удар, а ваш мозг не участвует в координации движения. Напротив, подобный прыжок робота часто требует точного измерения углов конечностей и суставов, в то время как мощные процессоры определяют, как исполнительные механизмы должны вести себя, чтобы поглотить удар… В некотором смысле, все эти вычисления выполняются морфологией наших тел, которая сама по себе является результатом миллиардов лет эволюции (еще один алгоритмическим процессом)».

Эту важнейшую фразу позволю себе проиллюстрировать простым и понятным примером – сальто, выполняемое
• игрушечной собачкой,
• роботом Вoston Вynamics
• человеком.

Робот в искусстве сальто (и вычислительных процессах, стоящих за этим искусством) гораздо ближе игрушке-собачке, чем к человеку.

И это 100%но переносимо на все современные практические попытки реализации сильного ИИ.

Статья Митчелл:
- популярно
- научно
#СильныйИИ #ВоплощенныйИнтеллект Открыть/Комментировать

2021-05-04 23:46:17 От подписчика Открыть/Комментировать