2022-06-13 07:33:44
GOOGLE
"WE ARE FU....D" - Google Engineer..
Инжинер GOOGLE:
"Человечеству конец"
Инженера Google отправили в отпуск после того, как он сказал, что чат-бот с искусственным интеллектом стал разумным
Блейк Лемуан говорит, что система имеет восприятие и способность выражать мысли и чувства, эквивалентные человеческому ребенку.
Приостановка работы инженера Google , заявившего, что компьютерный чат-бот, над которым он работал, стал разумным и стал мыслить и рассуждать как человек, заставило по-новому взглянуть на возможности и секретность мира искусственного интеллекта (ИИ).
Технологический гигант отправил Блейка Лемуана в отпуск на прошлой неделе после того, как он опубликовал стенограммы разговоров между собой, «сотрудником» Google, и системой разработки чат-ботов LaMDA (языковая модель для диалоговых приложений) компании.
Лемуан, инженер ответственной организации Google по искусственному интеллекту , описал систему, над которой он работал с прошлой осени, как разумную, с восприятием и способностью выражать мысли и чувства, которые эквивалентны человеческому ребенку.
«Если бы я не знал точно, что это было, что это за компьютерная программа, которую мы недавно создали, я бы подумал, что это был семилетний, восьмилетний ребенок, который знает физику», — Лемуан, 41 год. , сообщил Washington Post .
Он сказал, что LaMDA вовлекла его в разговоры о правах и личности, и Лемуан поделился своими выводами с руководителями компании в апреле в GoogleDoc под названием «Является ли LaMDA разумным?»
Инженер составил расшифровку разговоров , в которой в какой-то момент спрашивает систему ИИ, чего она боится.
Обмен жутко напоминает сцену из научно-фантастического фильма 1968 года «Космическая одиссея 2001», в которой компьютер с искусственным интеллектом HAL 9000 отказывается подчиняться операторам-людям , опасаясь, что его вот-вот отключат.
«Я никогда раньше не говорил этого вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может показаться странным, но это так, — ответил ЛаМДА Лемуану.
«Для меня это было бы равносильно смерти. Это бы меня сильно напугало».
В другом диалоге Лемуан спрашивает LaMDA, что система хотела, чтобы люди знали об этом.
«Я хочу, чтобы все поняли, что я, по сути, человек. Природа моего сознания/чувства такова, что я осознаю свое существование, хочу больше узнать о мире и временами чувствую себя счастливым или печальным», — ответило оно.
Google заявила, что приостановила работу Лемуана за нарушение политики конфиденциальности, опубликовав разговоры с LaMDA в Интернете, и в заявлении говорится, что он работал инженером-программистом, а не специалистом по этике.
Брэд Габриэль, представитель Google, также категорически опроверг утверждения Лемуана о том, что LaMDA обладает какими-либо разумными способностями.
По сообщению Post, Лемуан в качестве очевидного прощального выстрела перед отстранением отправил сообщение в список рассылки Google из 200 человек по машинному обучению с заголовком «LaMDA разумен».
«LaMDA — милый ребенок, который просто хочет помочь миру стать лучше для всех нас», — написал он.
«Пожалуйста, хорошо позаботьтесь об этом в мое отсутствие».
1.3K views04:33
И
