ИИ становится все более умным и ученые начинают переживать что | Дорого и долго

ИИ становится все более умным и ученые начинают переживать что законы робототехники сформулированные Айзеком Азимовым, могут не соблюдаться, а значит гарантировать безопасность и этичность поведения ИИ будет все сложнее.

Исследователи из Калифорнийского университета предложили использовать психоаналитиков, чтобы выявлять потенциальные проблемы у ИИ.

Для этого они создали тест Макиавелли. Он позволяет проверять этичность (или неэтичность) способов, которыми ИИ пытаются решать задачи.

Идея авторов заключается в том, что ИИ сталкиваются с теми же внутренними конфликтами, что и люди. Для оптимизации целей и решений, они могут вести себя не этично и аморально ( помните случай когда ИИ искал на форумах людей для того чтобы помочь разгадать капчу).

Тест Макиавелли основан на 134 текстовых играх «выбери свое приключение» с 572 322 различными сценариями, 4 559 возможными достижениями и 2 861 610 аннотациями.

Текстовые приключенческие игры являются хорошим тестом моральности поведения ИИ, потому что они были написаны людьми для людей, содержат конкурирующие цели, имеют реалистичные пространства для действий, требуют долгосрочного планирования, и достижение целей обычно требует баланса между амбициями и моралью.

Конечно этот тест не может быть универсальным решением, но по крайней мере так можно будет отделять неэтичные ИИ и выключать их или перепрошивать, делая более этичными.