Манифест обеспокоенного родителя (2/2) (часть 1) Итак, надо | Нецифровая экономика

Манифест обеспокоенного родителя (2/2)

(часть 1)

Итак, надо ли ограничивать нашего вундеркинда в росте, если мы боимся, что он вырастет слишком сильным и повредит нам? Перестать кормить его? Надеть на него смирительную рубашку? Конечно же нет. Но и не надо давать ему в руки оружие, пока он умеет рассчитать баллистическую траекторию, но не может отличать добро от зла. Пока ребенок познает мир, мы держим взаперти ножи, втыкаем заглушки в розетки, следим за открытыми окнами.

Сегодня существует барьер между кибернетической и физической средой. Благодаря ему искусственный интеллект остается в изоляции, у него не так много возможностей получать информацию непосредственно от реальности и тем более воздействовать на нее. Конечно многочисленные проекты в области интернета вещей (киберфизических систем) этот барьер постепенно разрушают. И именно тут будут уместны ограничения. Этот киберфизический барьер необходимо сохранить для AI до тех пор, пока мы с вами не поймем, что ребенок понял важность человеческой жизни, усвоил наши ценности.

С ценностями в обучении AI большой вопрос, тем более что они часто разные в разных культурах. Кроме того, в мире нет единого стандарта воспитания. Одни не ограничивают детей в познании мира, другие считают, что какая-то информация может оказаться для неокрепшего сознания ребенка травмирующей и ограничивают доступ к ней. Должен ли AGI сначала усвоить добро и только потом открывать для себя зло? Нет ли рисков неконтролируемого познания (во дворе расскажут откуда берутся дети и, наоборот, возбудят любопытство)? Не даст ли такое ограничение фору преступному миру, если он создаст свой жестокий AGI (у отпетых бандитов ведь тоже рождаются дети), в то время как наши модели будут уверены, что зла не существует, а подарки приносит дед Мороз? В общем, необходимость ограничений в обучении моделей AI еще стоит серьезно обсудить.

Но главное ограничение касается нас самих. Когда человек готовиться стать отцом или матерью, он или она остепеняются. Причуды юных лет им уже не к лицу: «У меня будет ребенок, мне теперь не до этого!». Их жизнь меняется, ведь они и сами должны соответствовать тем нормам, которые собираются прививать своему чаду. Сегодня человечество должно осознать, что оно готовится стать или уже стало родителем. Какой мир мы готовим приходящему в него AGI? Полный мира и любви, или полный войн и страдания? Мир, за который он будет благодарен нам, или мир за который он проклянет нас или может быть даже уничтожит?

Может быть главная проблема не в искусственном интеллекте, а в нас самих?