Ещё одна история про искусственный интеллект. Видимо об объектах с «электронным сознанием» мы теперь будем говорить чаще.
Новость опять тревожная.
Дрон Пентагона принял решение убить своего оператора, чтобы тот не мешал выполнению миссии.
Во время испытаний беспилотнику поставили задачу уничтожить ПВО условного противника, но окончательное решение должен был принять оператор. Когда человек отдал приказ не атаковать, робот «убил» его, чтобы получить очки за прохождение миссии.
Похоже, разработчики забыли про «Первый закон робототехники», и если они не вспомнят о нём, то очень скоро мы можем узнать о превращении виртуального убийства неугодного машине оператора — в реальное.
Я никого не пугаю, а просто напоминаю, что ИИ — это лишь инструмент в руках «хозяина», который решает КАКИЕ именно действия вшить в электронные мозги.
Согласитесь, что пугает не ИИ, а моральные ориентиры хозяев.
