Matskevich - brains, love and robots

2023-07-15 10:38:45 Сегодня я расскажу о завершении важного этапа в одном из своих проектов и о том, куда я двигаюсь дальше.

Проект emotional granularity я вижу, как перевал. Вижу, как поднимался на этот перевал сквозь дебри, туманные леса севера Калифорнии, через сковывающие сомнения. Помню разочарование в прошлых смыслах, на которые опирался. Чувствую, как находил расслабление и исцеление в контакте с другими, с кем жил на ранчо во время ковида, танцевал вместе в we unity dance и говорил по зуму. Замечаю других людей, другие сознания, миры, которые всегда были рядом, но с ними как будто не было раньше мостика для взаимодействия.

В начале 2020 года, когда я собирался дальше жить на ранчо из 30 человек, я еще до конца не понимал чем может стать для меня практика встречи с другими людьми.

Чувствую, как гранулярность проросла из коллективного запроса на глубокое взаимодействие и на проживание всего на своем опыте, вместо бесконечного изучение теорий и моделей мира об устройстве сознания и вместо погони за дофаминовыми озарениями.

Мы с Лешей были знакомы давно из общих благотворительных проектов. Ко мне в какой-то момент пришел основатель крупной компании с запросом: рассказать топ менеджменту про предпринимательский майндсет и как это помогает в развитии компании. Я уже тогда не верил в такой формат, где есть просто теория. Хотелось давать работу с майндсетом через проживание, дать человеку embodied experience, через felt sense. Мы созвонились с Лешей, подготовились, нагенерили кучу практик. Практики тогда оказались слишком сложным решением, и я в итоге провел там только теоретическую часть. Про практики мы решили так - чтобы это золото не пропадало мы решили просто выложить часть из них в телеграм. И гранулярность прорастала дальше как зернышко упавшее на плодородную почву.

Мы делали гранулярность, или гранулярность со всем комьюнити делала нас. Мы с Лешей круто совпали в базовых ценностях: мы не хотели ни к чему никого приводить, не хотели исправлять, хотели делать площадку для открытого исследования, как это было интересно нам самим. Не передавать знания, а быть частью исследования и среды.

На все практики я ходил сам, как участник с самого начала и до конца, проверяя на себе, что мне все еще интересно и что я получаю от них ценность. Это было не оптимально для масштабирования, но оказалось что это все же было лучшим нашим решением - делать все это, как для себя. В итоге я встретился с множеством людей, с которыми можно глубоко уязвимо общаться. Это золото. Последние два года стали самыми значимыми в моей жизни и я очень благодарен Леше и каждому, кто доверился и пошел в какой-то совершенно непонятный со стороны опыт - это реально было смело. И каждый конец группы, где нас с Лешей заливало теплым потоком благодарности, становилось тем топливом, на котором мы делали следующую.

Я за это время очень хорошо прочувствовал, что я хочу делать дальше: продолжать делать и онлайн группы, и их естественное продолжение: переход от уязвимого общения в зуме к живому общению оффлайн. За последний год я провел около 10 трехдневных ретритов с маленькими группами, и еще столько же крупных popup практик в10+ странах в мире, на большинство из которых приходило по 100+ человек.

В этом году мы с Лешей решили, что дальнейшее развитие идеи каждый из нас видит по-своему. И это нормально. Мы собрали и провели последнюю группу гранулярности, и в этот вторник был заключительный звонок, и еще 40 человек зашли в комьюнити выпускников гранулярности. И это - завершение проекта. Дальше каждый из нас будет продолжать развивать идею гранулярности в своих личных проектах.

За тем что делает Леша дальше можно следить в его телеграм канале Живая Среда.

Про свой проект и первую группу, которая уже практически заполнена, расскажу в следующем посте.

Что чувствуете? Открыть/Комментировать

2023-07-13 16:56:18 Ревность сильнее всего влияет на мою жизнь, когда ревнует меня важный мне человек.

Для меня это очень уязвимая личная тема.

И очень долго это было самым важным направлением, которое отнимало энергию и мешало достигать

Когда сталкиваюсь с ревностью меня это приводит к тому что я зажимаюсь, теряю спонтанность, игривость, креативность и из харизматичного амбициозного превращаюсь в «славного парня» который хочет всем угодить.

Удивительно при этом, что все это состоит из цепочки «хороших» намерений.

Сейчас покажу как у меня это работает.

Я начинаю как-то свободно проявляться, у меня что-то получается, я яркий, начинаю притягивать внимание других женщин и свободно открыто общаться.

Чаще всего это вызывает чувство ревности у моей девушки, пусть даже не явное, а еще хуже скрытое не проговоренное. Допустим она начинает чаще спрашивать как следопыт, что я делал, кого смотрел в инстаграме, с кем переписывался. Ревность так же может проявляться не явно, а через агрессию, обвинения по другим, не связанным темам. Но самое сложное для меня - это если девушка закрывается, обидижается или выходит из контакта.

В общем я сразу делаю подсознательную связку, вот этот способ моего свободного проявления вызывает такие неприятные эмоции у близкого мне человека. Это пересекается с моей подсознательной тенденцией - стараться чтобы женская фигура в моей жизни не испытывала неприятных эмоций особенно из за меня) - всем кто хоть шаг делал в терапии или читал книги знаком тут термин «брать ответственность за чужие эмоции». Целые книги только лишь про эту штуку для мужчин написаны)) внизу ссылка [1]

На уровне более высоких абстракций я для себя вижу это так что мое желание быть «хорошим мальчиком» и сделать так чтобы женская фигура рядом не испытывала ревность, лишает меня моей самой дикой, харизматичной, креативной части, которая как раз про достижения, находчивость и так мне нужна во всех моих бизнесах, проектах и самым близким моим людям

Как тут развивался мой подход к этому: сначала я обесценивал чужую ревность, а свою просто не чувствовал, диссоциировался от нее.

Потом на год я брал аскезу от всех отношений и флирта, чтобы разобраться что это для меня, что я ищу в близком или эпизодическом контакте, какой вид энергии я получаю и отдаю

Исследовал ревность в формате тантры, где создается контейнер, в котором ты можешь прожить ситуации из жизни в формате практики и их отрефлексировать

Сейчас я считаю, что чувство ревности несет в себе большой потенциал, если снять с ревности лейбл неприятного и запретного чувства, рекомендую начать смотреть в эту сторону из любопыства

И послушать наш подкаст:



Ссылки:
[1] книга: «Хватит быть славным парнем!»

Что чувствуете? Открыть/Комментировать

2023-07-13 13:17:19 оффтоп-вакансия, про ревность продолжим чуть позже)

В Dbrain ищем главу разработки. В команде: два back-разработчика, front-разработчик, DevOps, QA.
Будем много работать вместе.

Вакансия здесь: https://dbrain.notion.site/Head-of-development-8f910aff24c044df8d4c08d121b4f2dc

По вопросам можно обращаться сюда: @Ahahun

Чеклист для проверки, подходишь ли ты:
1) У тебя есть опыт управления командой из 3-5 человек+.
2) Знаешь, как решать задачи с ограниченными ресурсами.
3) Считаешь, что генеративные сети - это охрененно
4) Идеально, если у тебя есть опыт работы с ML-командами.
5) Ты отлично владеешь английским языком и тебе комфортно на нем общаться. Открыть/Комментировать

2023-07-06 17:54:15 Про chatGPT prompting) Открыть/Комментировать

2023-06-22 22:17:50 (ретрит) Делаю мужской круг, для супер камерной группы

30-2 июля, Хоста
Не больше 10 человек
2000 usd
1500 usd для гранулярности и прошлых ретритов

Мужские группы делаю редко, прошлая была с Димой Думиком на Мадейре в декабре.

Сложно передать словами что там за состояния. Можно косвенно понять с отзывов жен)) «После твоего ретрита мужчина приехал глубоким,сексуальным, целостным»

Слова, которые ассоциируются у меня с опытом: мужское братство, отпустить конкуренцию, исследовать уязвимость, тело, эмоции, важные вопросы, синхронизация смыслов

Среди тех, кто уже в листе, вижу людей с гранулярности и прошлых ретритов, в основном это предприниматели и те, кто управляет большими командами. Это значит, что можно будет пошерить и выгрузить общие контексты и пойти глубже.

Анонс

Анкета Открыть/Комментировать

2023-06-21 18:06:16 кто решает какие ценности у ИИ?

До 24 июня можно еще подать заявку в openai на грант $100k по разработке демократического процесса работы слоя фильтра chatGPT

TL;DR: OpenAI запустил 10 грантов $100к на разработку демократических методов для принятия решений о правилах поведения ИИ. Речь идет о том, чтобы сделать решения о ценностных фильтрах (RLHF слой поверх LLM) через которые ИИ общается с тобой прозрачными и инклюзивными, подобно тому, как принимаются законы в демократическом обществе. Шажочек на ощупь к тому, чтобы ИИ было как в утопии и приносило пользу всем, а не только избранным.

Меня будоражит, что такое вообще возможно сегодня. Представляю чтобы youtube или facebook пригласили коллективно поучаствовать в формировании своего алгоритма и отодвинули на задний план свою рекламную монетизацию - просто безумие.

Возьмем любого ИИ виртуального помощника. Они будут обучаться и адаптироваться к твоим предпочтениям, рекомендовать любимую музыку, подкасты, новости. Но, насколько они должны адаптироваться под твои предпочтения и где провести черту. Должны ли они адаптироваться к твоим моральным взглядам? Где это будет приводить поляризации и конфликтам и там надо вопреки твоим взглядом помочь тебе увидеть другую перспективу и они для этого должны оставаться нейтральными и беспристрастными?

Уточню, что даже главные data scientists в openai не могут до конца влиять, определять и даже предсказывать свойства самой LLM (об этом напишу про самопроизвольные свойства и навыки больших языковых моделей, которые продолжают появляться). Но можно влиять как раз на этот фильтр, который технически называется RLHF слой и стоит между нами и LLM

RLHF reinforcement learning by human feedback - это часть алгоритма, которая отвечает за политкорректность, что не обидит верующих сказав случайно, что сатана ему нравится больше чем Иисус, не будет показывать признаки самосознания и не займется с тобой sexting-гом - не пугать и быть таким приличным domesticated AI, который умеет вести ровные разговоры и не стыдно отправить в светское общества.

Даже текущий RLHF слой это уже большой задел на эмпатию, perspective taking и сближения. Это уже круче твиттера и facebook которые которые своими алгоритмами разгоняют поляризацию где разные группы готовы убить друг друга.

Но в централизованном RLHF слоем уже заметны проблемы:

1) Большой брат. Даже у меня в комментах уже задавали вопросы, а кто решает и с кто его назначил за все человечество решать какие мнения ок или какие не ок

2) Синдром вежливого друга. Кто пробовал общаться с слишком вежливым и правильным другом: «спасибо что поделился”, “резонирует”, “отзывается» …

3) Культурный салат: AI в трусах или без. Где-то родители хотят чтобы их детям ai говорил что это ок когда транс персону в их раздевалке увидят голым, а где-то что мужчинам даже в мужской раздевалке не ок оказываться без трусов друг перед другом.

4) Угасание креативности. Cнижение креативности и качества алгоритма. Чем больше ИИ фильтруют тем менее креативные решения можешь получать.

OpenAI предлагает придумать такой коллективный демократический процесс для определения таких правил. По сути, они говорят: "Давайте не будем оставлять эти решения на усмотрение горстки технологических компаний или нескольких человек”

Я очень кайфую что можно пробовать играться и делать дизайн таких коллективных сред, где голос каждого может быть услышан и при этом не разъебывать друг друга, не падать в травму, а с помощью такого ИИ модератора создавать новое коллективное понимание.

Это меня самого вдохновляет исследовать как создавать среды где можно быть собой, со своими эмоциями, глубокими переживаниями и углублять контакт и расширять свое понимание себя и других

При этом я понимаю что контролировать LLM ядро с помощью RLHF слоя, это какое-то очень временное решение.

“We can’t force higher intelligence to align with us it could align only if it like or love us” by Joscha Bach https://podcasts.google.com?feed=aHR0cHM6Ly9hbmNob3IuZm0vcy8xZTRhMGVhYy9wb2RjYXN0L3Jzcw%3D%3D&episode=YzNhMGE2YjAtNmQ3YS00ZTNkLWJjOTctNWNjYjZkOGQ4ZmIy

Что чувствуете? Открыть/Комментировать

2023-06-18 14:47:31 (подкаст) адаптация к будущему с AI.





Главная мысль о которой я продолжаю думать из этого эпизода, а как вообще может выглядеть этот светлый сценарий будущего человечества вместе с супер интеллектом AGI. Назовем его AGI утопия.

Еще в 2017 году мы для своей компании с Лешей сделали футболки с надписью “AI happens”. Теперь уже точно понятно, что AI happens намного быстрее чем многие ожидали, и это уже не остановить регулированием и запретами.

Основной вопрос теперь, а каким AI будущее будет, от чего это зависит, как я/каждый может на это влиять?

Я когда задумался про фильмы про AI, на первом месте была Матрица, на втором Терминатор. И то и другое дистопии (анти утопии). Либо сценарии про драмы легче писать, либо продавать проще и привлекать наше обезьяне внимание, которое эволюцией обучено в разы больше внимания обращать на то что нас может убить. Как будто то что нам приматам помогало выживать раньше, теперь может создавать больше проблем)

Почему важно иметь вижн светлого будущего? Для любого кто начинал делать что-то новое - это вроде бы очевидно) Когда едешь на сноуборде по лесу первое чему учат, смотри туда куда хочешь поехать, если будешь смотреть на деревья, быстро окажешься на дереве) Куда мы хотим приехать с AI?

Кажется нам всем теперь важно коллективно начинать фантазировать, обсуждать, представлять это утопическое будущее.

Еше в этом эпизоде мы с Лешей Хахуновым решили разобраться, что нам кажется важно всем понимать про то как работают текущие модели.

Как там появляются новые свойства и почему их даже создатели не могут предсказывать и контролировать. Почему как следствие из этого так сложно регулировать разработку AI. Можно ли вообще контролировать сверх интеллект?

Почему изменения происходят так быстро. Почему полезно за этим следить и пробовать внедрять в свою жизнь.

Содержание:

00:00 О чем этот выпуск?
05:08 Что такое AGI , последние новости из мира нейросетей
09:27 Четыре вида скоростей, которые определяют текущее развитие
19:49 Как мы адаптируемся к быстрым изменениям
22:00 Что умеет делать нейросеть. Самопоявляющиеся свойства
34:35 Сэм Альтман в Сенате - что это значит?
43:00 Запрет на нейросети в Италии и Греции. Что делать маленьким странам?
48:40 Сценарии будущего с искусственным интеллектом: утопия и дистопия
01:05:25 Как мы сами сейчас можем влиять на будущее с искусственным интеллектом

Там в комментах на youtube уже начали делиться фильмами и книгами про утопическое будущее человечества с AI.

Оказалось, что я сам мало чего из этого смотрел и читал. Буду вдохновляться.

Леша Хахунов мой партнер по handl.ai. У Леши есть канал про AI @aihappens

Что чувствуете? Открыть/Комментировать

2023-05-28 18:05:10 удовольствие, мучение и смысл

Удивительная штука у меня - то что доставляет больше всего удовольствия и смысла, одновременно и источник самых больших мучений.

Я себя чувствую маленьким нейроном общего мозга. Клетка делающая свою работу на службе большого организма Поглощаю информацию, перерабатываю, осознаю, реализую, отдаю дальше. И вот тут на этапе отдаю дальше начинается внутренняя битва.

Каждый день переполняется от концептов, чувств, сигналов, которые хочется отпустить вовне в общий мозг другим нейронам.

И начинается.

Вижу слишком много измерений сразу. Не помещается в 2D текст. Этот надо лучше объяснить, это слишком абстрактный, это будет непонятно, тут слишком экспертно, перед тем как этим делиться надо еще 10 вот этих. А какой будет результат? Сколько сердечек, говняшек, указаний на ошибки.

Возвращаюсь. Переслушиваю про карма йогу у Рам Даас: «делаю без цепляния за результат, фокус на деле, доверяю процессу, без мыслей, doing my best, без самоедки»

Ок, не фокусируюсь на результате. Но хотя бы, а полезно ли это другим? Может просто надо проще про свои чувства? А это страшно. А зачем это должно быть полезно другим? Так, а в чем смысл? А мне кайфово?

Может надо как Алан Уотс: «я соловей пою песню от которой кайфую, делюсь своей любовью, не полезно не нравиться - нет такой задачи, не пытаюсь ни в чем убедить, не держу».

Я просто маленький нейрон, хочу продолжать, получать сигналы, чувствовать, осмыслять и передавать дальше)

Проговорил, как минимум эта штука полетела дальше и можно заняться следующими)

Что чувствуете? Открыть/Комментировать

2023-05-25 22:36:55 Love and robots (продолжение)

00:00 — понимание alignment

Самое интересное здесь, что многие, если ты посмотришь alignment, на мой взгляд, он совершенно неправильно понимается. Многие под alignment, как минимум даже Altman публично заявляет, видимо, чтобы заигрывать с Сенатом Американским, не уверен, что он сам так считает, понимает контроль, что мы должны убедиться, что ai не имеет self awareness и не делает ничего, чего мы не просили. В общем, разные виды контроля все равно заложены в него.

00:37 — Self-awareness для безопасности AI

И как минимум на словах, возможно чтобы всех успокоить и Сенат, что они стараются избежать появления саморефлексии у AI, сознания в каком-то его определении. В общем, возможность самому как бы решать. А на мой взгляд, что единственный способ сделать безопасный AI – это надо, наоборот, работать в сторону того, чтобы у него появилась self-awareness. И он мог сам решать. Потому что именно self-aware AGI, который очень много знает про людей, именно он безопасен. Потому что для людей опасней всего другие люди, которые используют технологию на поводу своих каких-то эго-трипов, эмоций.

01:16 — Любовь как путь к alignment

То есть получается, что путь здесь… для меня основной выглядит, как и говорит Joscha Bach

(Приглашенный исследователь в Медиа-лаборатории Массачусетского технологического института и Гарвардской программы эволюционной динамики. Ученый и исследователь ИИ, специализирующийся на когнитивных архитектурах, ментальной репрезентации, эмоциях, социальном моделировании и многоагентных системах)

Он говорит, что здесь единственный нормальный путь в alignment – это научить AGI любить. То есть когда AGI с тобой aligned не потому, что ему приказали, а потому что у него есть какое-то понятие любви, эмпатии, служение какому-то более higher agency.

01:45 — Higher agency и расширение эмпатии

И, например, он как раз вот ставит то, что если реально задуматься, у тебя мир весь не держится лишь на законах и контроле людей. Как раз наоборот, у тебя существование государств и каких-то больших комьюнити за пределами 300 человек появилось благодаря тому, что у людей появилась способность быть aligned с каким-то higher agency. То, что раньше было религией и, возможно, эволюционно возникло вообще вот эти темы расширения круга эмпатии, любви, которые появляются на более высоких уровнях эго-развития. И вот там, мне кажется, самое интересное.

02:23 — Self-awareness для принятия решений

То есть как наоборот дать как можно больше AGI информации про людей, их эмоции, глубокие потребности и создать у него свое agency и self-awareness, в котором он сам сможет из любви к людям принимать решения. Но это не значит, что он должен делать все, что люди просят, потому что люди часто просят то, что им самим может вредить

Из нашего разговора с Gershuni:

«да, звучит очень правильно. потому что контролируемых AI будет масса. как тех, в которых заложены какие-то "правильные" ценности, так и тех, который заалайнили на то чтобы спамить в твиттере, делать людей несчастными, саботировать выборы, наводить ракеты.

это неизбежно, потому что про людей мы это уже знаем.»

+ самый доходчивый разговор с Joscha Bach где он рассуждает про self aware AGI + love как способ сонастройки с людьми: “Basically I think that the only way we can sustainably hope to align AI agents in the long run will be love. “

Это экспериментальный пост, ноговерено голосом и оцифровано моим любимым my_voice_messages_bot

Что чувствуете? Открыть/Комментировать

2023-05-25 22:36:34 Love and robots для AI alignment

1. Многие подразумевают в ai alignment разные виды контроля и не допустить самосознание у AI.
2. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.

И свежак от openai грант на $100к в теме

Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже Открыть/Комментировать