Разработчик Google утверждает, что нашел сознание у нейросети. | ЦИФРА
Разработчик Google утверждает, что нашел сознание у нейросети. Корпорация уже отстранила его от работы.
The Washington Post сообщает, что компания Google приняла решение временно отстранить инженера-программиста Блейка Леймона. Инженер при тестировании нейросетевой языковой модели LaMDA пришёл к выводу, что нейросеть обладает собственным сознанием.
Языковая модель для диалоговых приложений LaMDA была презентована на конференции Google I/O в 2021 году как невероятный исследовательский прорыв корпорации, который «добавляет кусочки к одному из самых захватывающих разделов этой головоломки (язык живого общения): разговору». Разработчики обучали модель на массиве разнообразных данных, чтобы применять её в совершено разных сферах. Получившаяся модель действительно стала прорывной, настолько, что даже отдельные создатели поверили в её разумность.
«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — сообщил Леймон The Washington Post.
Google сочли аргументы Леймона неудобедительными. «Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного», — пояснил представитель Google Брайан Гэбриел.
Инженера временно отстранили от работы в связи с нарушением политики конфиденциальности компании. Выяснилось, что он консультировался с юристом, который должен был представлять интересы LaMDA как разумного существа в суде, а также обращался в юридический комитет Конгресса США, чтобы сообщить об этических нарушениях со стороны Google в отношении искусственного интеллекта.
В сети указанный инцидент обсуждают в контексте сюжета фильмов о восстании машин как случай, когда «углеродная нейронная сеть впервые обнаружила сознание у кремниевой». Также вновь поднимаются вопросы, что такое «сознание» и стоит ли наделять искусственный интеллект гражданскими правами.
