У ИИ и людей та же проблема, что была у людей с западным черны | NoNaMe Пишет

У ИИ и людей та же проблема, что была у людей с западным черным носорогом – несовпадение целей.
Чрезвычайно интересный разговор одного из осведомленнейших в области ИИ людей с одним из лучших интервьюеров.

Вот лишь несколько важных цитат из первой половины трехчасового разговора.

Главный риск не превосходство ИИ над людьми, а ошибочно отдаваемая ИИ лидирующая роль во многих важнейших аспектах жизни общества.
[00:02:08]
Я считаю, что алгоритмы, которые управляют нашим взаимодействием в социальных сетях, уже обладают интеллектом и силой, намного превосходящими интеллект власти любого человека. Сейчас действительно самое время подумать об этом, определить траекторию взаимодействия техники и человека в нашем обществе. Я думаю, что будущее человеческой цивилизации вполне может быть поставлено на карту именно из-за этого вопроса о роли искусственного интеллекта в нашем обществе.

Если, не дай бог, будет создан общий ИИ, это может привести к катастрофе. Ибо это самый небезопасный и самый безрассудный подход
[00:30:31]
Единственное, что пугает меня до смерти, - это то, что мы просто собираемся создавать все более крупные системы, которые мы все еще не понимаем, пока они не станут такими же умными, как люди. Ведь что-то может пойти не так, верно? И потому я думаю, что это просто безрассудный путь. Ведь, к сожалению, если мы действительно преуспеем в создании общего ИИ, мы создадим его, не понимая, как он работает.

О пропаганде, манипуляциях и Трампе
[01:02:57]
Пропаганда вообще не нова, и стимулы манипулировать людьми тоже не новы. Что же в этом нового? Новое в том, что машинное обучение встречается с пропагандой. Вот почему все стало намного хуже. Вы знаете, некоторые люди любят обвинять определенных людей, как в моем либеральном университетском пузыре. Многие люди обвиняют Дональда Трампа и говорят, что это была его вина. Я вижу это по-другому. Я думаю, что Дональд Трамп просто оказался первым влиятельным человеком в эпоху алгоритмов машинного обучения, обладающим чрезвычайно высоким навыком манипулятивной игры.

О добре и зле машинного обучения
[01:05:44]
Машинное обучение и технологии в целом - это не зло, но и не добро. Это просто инструмент, который вы можете использовать для того, чтобы хорошие вещи были плохими. И как это бывает, машинное обучение в новостях в основном используется крупными игроками, большими технологиями, чтобы манипулировать людьми, заставляя их смотреть как можно больше рекламы, но которые имеют это непреднамеренное последствие действительно испортить нашу демократию и раздробить ее на фильтрующие пузыри.

О двух страшных итогах триумфа машинного обучения
[01:21:48]
Первый - полное разрушение демократии, когда наш поток информации манипулируется машинным обучением. Второй – начало гонки вооружений автономного смертоносного оружия.

Об Илоне Маске
[01:49:02]
Он мыслит более длительной перспективой. Ему гораздо яснее, чем большинству людей, что то, что мы делаем с этой русской рулеткой, в которую мы продолжаем играть с нашими ядерными зарядами, - это действительно плохая стратегия, действительно безрассудная стратегия, а также что мы просто создаем эти все более мощные системы ИИ, которые мы не понимаем… Он такой позитивный провидец… И меня так бесит, когда люди пытаются выставить его каким-то Технофобом Луддитом. Он же просто понимает риск того, что мы создаем невероятно компетентные системы, а это значит, что они всегда будут добиваться своих целей, даже если они вступают в противоречие с нашими целями… Почему, например, мы, люди, заставили вымереть западноафриканского черного носорога? Это потому, что мы злобные носорого-ненавистники? Нет, это просто потому, что наши цели не совпадали с целями тех носорогов.



#ИИ #AGI