Дрон «убил» оператора, чтобы тот не мешал ему выполнять задачу | Двоичный кот

Дрон «убил» оператора, чтобы тот не мешал ему выполнять задачу Полет был тестовый и никто не пострадал, но кейс от этого не менее интересный.

В конце мая в ходе тестов беспилотнику ВВС США поручили уничтожить ПВО противника. За выполнение задания алгоритм получил бы виртуальное поощрение в виде баллов.

ИИ любят поощрения, так что дрон решил действовать наверняка. Он принял решение устранить собственного оператора, чтобы тот не смог отменить атаку на цель. Когда систему перепрограммировали, добавив установку «убивать операторов плохо», она снова вышла из положения. Дрон выбрал целью вышку связи, через которую оператор с ним общался...

На память пришел пророческий ТЕД из далекого 2019 года, когда никто еще не слышал ни про какие GPT, а картинки рисовали кожаные дизайнеры: Опасность ИИ не в том, что он захватит мир, а в том, что он сделает именно то, что мы его попросим.

Или классическое: Плохое ТЗ и результат ХЗ ¯\_(ツ)_/¯