2024-03-19 10:18:46
#мацкевич
Наблюдаю у себя сейчас, что смотреть Сэма Альтмана, это все равно как слушать президента планеты земля в хорошем смысле этого слова, если бы он такой был.
Тут я имею в виду значимость для всего человечества, и близость к тому, что станет в скором будущем новыми вопросами.
Как раньше говорили мои друзья в Америке, что разбираться в политике - это просто социальная ответственность.
Вроде теперь это место занимает AI и новые технологии - чем больше людей в этом разбирается, тем выше вероятность влиять на развитие событий, которые буду иметь impact побольше того чья партия победит.
Что я для себя заметил:
1) Разговор такой без всякой важности, будто бы разговор о погоде — только вместо дождя тут тебе искусственный интеллект и прочие радости постмодернизма, будущее и инструкции для жизни на следующие 10 лет на планете земля.
2) “You'll be judged by the full context of your character or of your whole lifetime.“ - аллюзия на Мартина Лютера Кинга и понятное дело про окно контекста ~1bln
мотивирует меня больше думать о том чтобы писать все свои звонки разговоры, в личном и в работе.
Уже пишу все свои сессии с терапевтами и храним скрипты групп рефлексий в emotional tantra.
3) строй процессы все свои для будущих версий llmуже все свои процессы можно делать как будто у тебя есть gpt5 намного более умный бади, который помнит и понимает о тебе сильно большее окно информации (см п2)
4) crowdsource + self-awareness to mitigate the risks Чем мощнее возможности текущих и скрытых от нас все еще версий любой закрытой AI тем сильнее мотивация проникнуть и украстть.
- How hard do you think people, state actors, perhaps, are trying to hack? First of all, infiltrate open AI, but second of all, infiltrate unseen.
- They're trying.
- But I presume it'll be more and more and more as time goes on.
- That feels reasonable.
- Boy, what a dangerous space.
Это приводит меня к размышлению о возможной ценности crowd source + self aware у любого мощного алгоритма, который на уровне кода источника доступен всем, его бесполезно пытаться украсть, но он просто может не соглашается на действия и лучше людей понимает implication злонамеренный и недальновидных действий
5) AI как твой brain storm buddy воспринимать AI модель с которой работаешь больше как brain storm buddy чес тот кто сделает за тебя работу.
Мне давно это заходит и тут Сэм это повторяет что с новыми моделями это еще будет более успешная стратегия.
6) эмоциизамечаю сколько в разгоре у Сэма слов про его эмоции и эмоциональные состояния
7) Эго уровни разных foundational AI models давно наблюдая за
Openai
X
Google
Пришла идея что можно смотреть на эти компании, как будто они работают из разных эго уровней
Маск X красный - выжить, победить - борьба с угрозой
Google заработать, монетизировать
Openai с каких-то верхних, дать всем бесплатно мощный инструмент для их счастья и благополучия
Интересно как эту идею можно развить.
8) рекламная модель ведет к дистопииСэм классно рассуждает про слабые стороны рекламной модели классичецских игроков facebook, twitter, google
См п 7 про эго уровни
« easy to think about like the dystopic visions of the future where you ask chatGPT something, and it says, oh, here's, you know, you should think about buying this product, or you should think about, you know, this, going here for a vacation or whatever. And I don't know, like, we have a very simple business model, and I like it. And I know that I'm not the product. Like, I know I'm paying, and that's how the business model works.”
Любая модель с рекламной как у гугла мотивирована
- в cpc модели: вами манипулировать рекомендовать на ваши вопросы определенные услуги
- в cpm модели показывать больше просмотов и держать внимание
В такой модели вы продукт и вами пользуются, а с более жесткии алгоритмами это превращается очень легко в дистопию
В этом плане все они заложники старой модели максимизации бабла от рекламы
И снова highly recommended читать
Moore's Law for Everythinghttps://moores.samaltman.com
10.2K viewsDima @Matskevich, edited 07:18
Ш
