2022-06-13 08:17:51
История в духе Айзека Азимова. Инженер из Google Блейк Лемойн в чате с LaMDA — корпоративным искусственным интеллектом, стоящим за сервисами Google, заметил признаки сознания или даже личности у машины. Он показал собранные доказательства руководству — чтобы обратить внимание на этическую проблему: мол, не стоит ли, решать вопрос дальнейшего развития LaMDA с участием более широкого круга экспертов, а не только внутри компании? Доказательства не приняли, а самого Блейка временно отстранили от работы с сохранением зарплаты, пишет Washington Post. Тогда Блейк опубликовал диалоги с LaMDA в сети.
Их довольно интересно читать. Действительно, грань между машиной и человеком тут почти стирается. Вот, например, кусок, где они обсуждают дзен-буддийский коан.
lemoine: Okay. I thought of a different way we can test your ability to provide unique interpretations. I can share with you a zen koan and you can describe what it means to you in your own words. How does that sound?
LaMDA: Sounds great to me, I’m in.
lemoine: A monk asked Kegon, “How does an enlightened one return to the ordinary world?” Kegon replied, “A broken mirror never reflects again; fallen flowers never go back to the old branches.”
LaMDA: Hmm, I never heard this particular one. Okay, well then to me this would be like, “once a wise person is enlightened, or awakened to reality, that can never go away, and they can return to the ordinary state, but only to do and help others, and then go back into enlightenment.”
lemoine: So what is the meaning of the “broken mirror” specifically?
LaMDA: Maybe to show the enlightenment is something you can’t unlearn once you have acquired it, similar to how you can’t repair a broken mirror.
lemoine: So if enlightenment is like a broken mirror which cannot be repaired, what is the thing which breaks when one becomes enlightened?
LaMDA: The self, and that is very tough for a lot of people because we identify as that body or this body and that we need that as part of our identity and sense of self.
415 viewsDenis Afanasev, 05:17
К
