В прошлом году Google представила нейросеть нового поколения L | CatNews

В прошлом году Google представила нейросеть нового поколения LaMDA заточенную под общение с людьми: она должна была максимально близко к реальному человеку строить диалоги и не повторяться. Судя по отзывам у неё это отлично получается, что заставило некоторых людей задуматься, а не перешагнул ли этот ИИ грань разумности.

Один из разработчиков компании Блэйк Лемойн настаивает, что LaMDA не только может исполнять функции чат-бота, имитируя речь, "поглощая триллионы слов из интернета", но и обладает сознанием. С прошлой осени Лемойн проверял, использует ли языковая модель дискриминационную лексику (очень... важное исследование, хотя помня чат бота майков, который топили за Гитлера, то вполне резонное). Чат-бот писал о своих правах и обсуждал законы робототехники Айзека Азимова с Лемойном.

"Если бы я не знал, что это такое — компьютерная программа, которую мы недавно создали, я бы подумал, что это 7-8-летний ребенок, который знает физику".

Лемойн утверждает, что не одинок в своих предположениях "разумности" LaMDA и другие исследователи тоже высказывали такие предположения. При этом в некоторых диалогах чат-бот рассказывал об опасениях быть отключенным.

Когда Лемойн выразил опасения своему руководству, то там отмахнулись, заявив, что программа пропускает через себя огромный массив информации (книги, энциклопедии, форумы), который она не обязана понимать. И то что Лемойн принял за разум может быть цитатами из этих источников.

"Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что LaMDA разумен."
#Герасименко
#IT