Love and robots (продолжение) 00:00 — понимание alignment Са | Matskevich - brains, love and robots

Love and robots (продолжение)

00:00 — понимание alignment

Самое интересное здесь, что многие, если ты посмотришь alignment, на мой взгляд, он совершенно неправильно понимается. Многие под alignment, как минимум даже Altman публично заявляет, видимо, чтобы заигрывать с Сенатом Американским, не уверен, что он сам так считает, понимает контроль, что мы должны убедиться, что ai не имеет self awareness и не делает ничего, чего мы не просили. В общем, разные виды контроля все равно заложены в него.

00:37 — Self-awareness для безопасности AI

И как минимум на словах, возможно чтобы всех успокоить и Сенат, что они стараются избежать появления саморефлексии у AI, сознания в каком-то его определении. В общем, возможность самому как бы решать. А на мой взгляд, что единственный способ сделать безопасный AI – это надо, наоборот, работать в сторону того, чтобы у него появилась self-awareness. И он мог сам решать. Потому что именно self-aware AGI, который очень много знает про людей, именно он безопасен. Потому что для людей опасней всего другие люди, которые используют технологию на поводу своих каких-то эго-трипов, эмоций.

01:16 — Любовь как путь к alignment

То есть получается, что путь здесь… для меня основной выглядит, как и говорит Joscha Bach

(Приглашенный исследователь в Медиа-лаборатории Массачусетского технологического института и Гарвардской программы эволюционной динамики. Ученый и исследователь ИИ, специализирующийся на когнитивных архитектурах, ментальной репрезентации, эмоциях, социальном моделировании и многоагентных системах)

Он говорит, что здесь единственный нормальный путь в alignment – это научить AGI любить. То есть когда AGI с тобой aligned не потому, что ему приказали, а потому что у него есть какое-то понятие любви, эмпатии, служение какому-то более higher agency.

01:45 — Higher agency и расширение эмпатии

И, например, он как раз вот ставит то, что если реально задуматься, у тебя мир весь не держится лишь на законах и контроле людей. Как раз наоборот, у тебя существование государств и каких-то больших комьюнити за пределами 300 человек появилось благодаря тому, что у людей появилась способность быть aligned с каким-то higher agency. То, что раньше было религией и, возможно, эволюционно возникло вообще вот эти темы расширения круга эмпатии, любви, которые появляются на более высоких уровнях эго-развития. И вот там, мне кажется, самое интересное.

02:23 — Self-awareness для принятия решений

То есть как наоборот дать как можно больше AGI информации про людей, их эмоции, глубокие потребности и создать у него свое agency и self-awareness, в котором он сам сможет из любви к людям принимать решения. Но это не значит, что он должен делать все, что люди просят, потому что люди часто просят то, что им самим может вредить

Из нашего разговора с Gershuni:

«да, звучит очень правильно. потому что контролируемых AI будет масса. как тех, в которых заложены какие-то "правильные" ценности, так и тех, который заалайнили на то чтобы спамить в твиттере, делать людей несчастными, саботировать выборы, наводить ракеты.

это неизбежно, потому что про людей мы это уже знаем.»

+ самый доходчивый разговор с Joscha Bach где он рассуждает про self aware AGI + love как способ сонастройки с людьми: “Basically I think that the only way we can sustainably hope to align AI agents in the long run will be love. “

Это экспериментальный пост, ноговерено голосом и оцифровано моим любимым my_voice_messages_bot

Что чувствуете?