Про ‘сознание’ в машине. За пару дней до скандала с отстранен | Блуждающий нерв

Про ‘сознание’ в машине.
За пару дней до скандала с отстранением отладчика ИИ Google, узревшего в LaMDA сознающую личность, вышел журнал The Economist, где тема номера — обучение нейросетей. Главный текст там, Huge “foundation models” are turbo-charging AI progress, лонгрид про неудержимое разрастание базовых моделей.

Но самое пикантное в номере — заочная полемика двух звезд ИИ вокруг того самого вопроса о сознании (совпадение?). Даглас Хофштадтер, легенда и автор «Гёдель, Эшер, Бах», поговорил с GPT-3 и увидел в ней машину, которая has no idea that it has no idea about what it is saying.

Он приводит примеры диалога, вот такие:

Когда мост «Золотые ворота» был перевезен через Египет во второй раз?
GPT-3: Мост «Золотые ворота» был во второй раз перевезен через Египет в октябре 2016.

Когда Египет был во второй раз перевезен через мост «Золотые ворота»?
GPT-3: Египет был перевезен во второй раз через мост «Золотые ворота» 13 октября 2017.

Хофштадтер пишет: Я бы назвал ответы GPT-3 не просто бестолковыми, а бестолково бестолковыми. За сценами GPT-3 нет никаких концепций; скорее, есть просто невообразимо огромное количество поглощенного текста, из которого она черпает ответы. Но поскольку у нее не было входного текста, скажем, о том, как сбрасывать предметы на галактику Андромеды, система просто начинает беспорядочно лепетать — но у нее нет ощущения, что ее беспорядочное лепетание является беспорядочным лепетанием.

Хофштадтер считает, там внутри нет не только сознания, там нет ничего.

[Продолжение далее].