УБИВАТЬ - НЕ УБИВАТЬ (Человек/Робот) - Ты не прав! - Право име | Cognitive Life от Ольги Усковой
УБИВАТЬ - НЕ УБИВАТЬ
(Человек/Робот)
- Ты не прав!
- Право имею!
Именно с этих мыслей, слов, криков...начинается любой спор, драка, даже преступление.
Изначально человеческое общество регулировало соблюдение общественно корректного поведения только по понятиям, т.е. на основе моральных требований, духовного воздействия и общественного порицания. Но с развитием экономики и средств производства возникла необходимость создания особых правил поведения, регулирующих отношения между людьми. Первоначально они воспринимались населением как дарованные свыше, и за ними закрепились такие понятия как "право", "правда". Кроме того, появился особый институт, взявший на себя труд следить за соблюдением этих норм. Это были либо вожди племен, либо старейшины, либо жрецы. Они же осуществляли правосудие в обществе.
Вскоре, в развитых странах родоплеменная организация правосудия оказалась неэффективна. Слишком много предъяв со стороны нарастающего класса активных индивидов оказалось невозможно регулировать из одной точки по понятиям .
Начали возникать и развиваться судебные институции.
На Руси преступления назывались обидами. ( Так и до сих пор, кстати. Тихим голосом произнесенное: "Ты что, уважаемых людей обидеть хочешь?" - обычно, последний рубеж перед "организацией правосудия" ...)
Рассматривалось 2 стадии: покушение и оконченное преступление.
"Основными видами преступлений являлись:
- преступления против личности,
- преступления против чести,
- преступления имущественные,
-преступления против семьи и нравственности.
В качестве наказаний предусматривались:
1. месть,
2. поток и разграбление,
3. штраф ( вира) – одинарная вира ( 40 гривен), двойная вира ( 80 гривен), головничество ( штраф уплачивали родственникам убитого – 120 гривен)." ( взято из "Русская Правда" 1054 год)
Сегодня в мире судебная система состоит ( в идеале) из двух частей:
- детерминированной. Адвокаты, Судьи, Судебные приставы и т.п. - просто должны точно следовать типовым служебным инструкциям, букве закона. Это постоянная часть системы. Рассмотрели дело - к следующему.
- недетерминированной. Присяжные должны изучить степень применения типового закона к ситуации и вынести вердикт. Огромная ответственность. Одноразовый компонент.
Ок. Это все для человеческого общества. А для смешанного, как будем разбирать? Если система Искусственного Интеллекта уже принимает самостоятельное решение в условиях, неопределенных заранее (как это происходит в транспортном потоке, например), то по каким принципам судить робота и его создателя?
Законы Айзека Азимова - это про разборки по базовым понятиям. А для функционирования системного смешанного человечества нужны новые институции.
Специалистов из Cognitive Pilot привлекали для консультаций по убийству пешехода беспилотником Uber. Налицо была ошибка технологическая и организационная, причем грубейшие. Но дальнейшее развертывание событий показало, насколько мы все в мире не готовы к "правде" по таким сложным ситуациям с участием автобота.
"Было сказано: "ошибаться-это по-человечески". На самом деле, "ошибаться - это предпосылка для понимания". Все разумные существа по определению подвержены ошибкам, поскольку всеведение недоступно.
И снова мы возвращаемся к идее, что мы должны начать судить наши машины так, как мы судим людей. Некоторые агенты (человеческие или нечеловеческие) менее интеллектуально способны, чем другие, а некоторые просто не знают соответствующих фактов. Поэтому они будут неправильно понимать ситуации, изображения и документы и принимать неверные решения, основанные на таком непонимании.
Как мы судим о них? Мы более снисходительны к детям и другим некомпетентным в нашей правовой системе. Должны ли мы судить о машинах одинаково? Изменит ли это наше представление об этом, если каждое устройство, подобное AI, будет снабжено наклейкой с надписью "предупреждение: некомпетентен во всех областях, кроме перечисленных в квитанции о продаже. Это ограничивает нашу ответственность." - Моника Андерсон - CEO of Syntience Inc., один из основоположников направления Искусственной Интуиции.
