«Алгоритм судного дня»: книга о нашем будущем под управлением | РБК Тренды
«Алгоритм судного дня»: книга о нашем будущем под управлением ИИ
Мы уже привыкли к «слабому» ИИ, например спам-фильтрам в почте. Но что ждет человечество после запуска машинного сверхинтеллекта и чьи решения будут определять наше будущее? А если учесть, что во множестве стран разработки спонсируются государством? Яркий пример — Китай. При этом там наблюдается однородность профессионального сообщества, а значит, ценностей и паттернов принятия решений, которые будущий «сверхразум» унаследует от своих создателей. Чем это грозит человечеству, разбираемся с книгой Эми Уэбб «Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе».
Кто автор
Эми Уэбб — американская писательница, футуролог и журналистка, пишущая о том, как технологии меняют наш мир. Ее статьи выходили в The Wall Street Journal и Newsweek. С 2007 года Уэбб является автором ежегодного отчета «Института будущего сегодня» (Future Today Institute) о цифровой трансформации, в котором рассказывается о будущем технологий и их влиянии на общество.
О чем книга
Автор разбирает сложившуюся расстановку сил в индустрии ИИ и обозначает, чем это может обернуться для человечества в будущем. К примеру, один из тревожащих ее факторов — роль государства в развитии ИИ в Китае.
Система социального капитала уже работает
Жизнь миллионов людей уже контролируется ИИ. В зависимости от «благонадежности» человека ему может быть дозволено (или нет) выезжать за пределы города, снимать жилье и т. д. Предполагается, что Китай будет экспортировать ИИ с системой социального капитала, а значит, китайские технологии слежения будут охватывать несколько миллиардов человек.
Требование коммерческого успеха
Для западных корпораций же определяющим фактором в развитии ИИ является потенциальная коммерческая выгода. Когда какая-то команда выпускает успешный прототип, она сталкивается с корпоративным давлением, требующим скорых бизнес-результатов. Но попытки внедрить механики на скорую руку могут приводить к чудовищным исходам — если речь про медицину, то даже летальным.
Черный ящик компьютерного сознания
Сталкиваясь с решениями ИИ в области медицины нам недостаточно просто получить протокол лечения и инструкции: врачи и пациенты хотели бы понимать, на основании чего нейросеть пришла к тому или иному решению. Сегодня даже системы с открытым исходным кодом «функционируют как проприетарный черный ящик».
Нейронные сети уязвимы для «враждебных данных»
С помощью заведомо искаженных данных можно повлиять на систему компьютерного зрения в беспилотнике так, что она определит знак «Движение без остановки запрещено» как «Ограничение скорости 100 км/ч», и автомобиль понесется через перекресток без остановки. Враждебные данные могут влиять на работу ИИ на атомных АЭС и в других критически важных инфраструктурах.
Запись персональных данных
Автор прогнозирует появление в ближайшее время такого явления, как PDR — «запись персональных данных». Это цифровой слепок личности, содержащий массив данных обо всей вашей жизни: от даты рождения до предпочтений при заказе еды онлайн и истории поисковых запросов. Сейчас эта информация хранится разрозненно, а в дальнейшем будет аккумулироваться в одном месте.
Цитата
«Все эти системы построены, чтобы сделать нашу жизнь проще, а вместо этого поддерживали нашу лень. Они убили в нас чувство производительного труда и цели. Мы предоставляем системам принимать решения за нас. Мы соглашаемся на ограниченный выбор».
Зачем читать книгу
Вы лучше узнаете о развитии искусственного интеллекта в настоящий момент и о том, чего ожидать от нейросетей в будущем. Кроме того, те риски, которые автор предсказывает в пессимистичном сценарии будущего, проще предотвратить путем коллективных усилий в настоящем.
#что_почитать
