​Существует такой жуткий мысленный эксперимент — Василиск Роко | ТОПЛЕС

​Существует такой жуткий мысленный эксперимент — Василиск Роко. Мы уже немного говорили о нем здесь, но не лишним будет еще раз упомянуть. Нам же хочется немного напугать и новоприбывших!

Итак, представьте, что в будущем родится Василиск — сверхсильный и всезнающий ИИ, и при этом он решит наказать тех, кто в прошлом знал о возможности его появления, но не помогал его созданию.

Получается, всем, кто сейчас узнал о такой возможности будет логично тут же начинать помогать его созданию. В этом и жуть: вы сейчас узнали о Василиске и теперь в зоне риска!

Но проблема еще и в том, что именно такие действия приближают появление Василиска. И именно в этом видится настоящая угроза человечеству.

Вот такой шантаж от того, что еще не родилось, но уже диктует свою волю из будущего, тем самым способствуя своему появлению. Но на самом деле тут очень много «если»: если мы придем к общему ИИ, если он будет злым, если он решит наказать…