На ближайшие несколько месяцев я обосновался в Алматы! Скоро з | Мастриды

На ближайшие несколько месяцев я обосновался в Алматы! Скоро запишем здесь новый сезон подкастов. А 20 мая (в следующую субботу) проведём встречу с подписчиками, не пропустите – анонс будет чуть позже.

Непростая серия переездов позади, теперь мастриды начнут выходить чаще. Для начала почитайте про интересный эксперимент: исследователь ИИ обучил ChatGPT на большом объёме информации о нём самом, а потом дал нейросети задачу пройти психологический тест, отвечая по возможности так, как он ответил бы на него сам.

Такую же задачу он поставил перед своей девушкой и своей мамой. А потом сравнил результаты теста со своими реальными ответами. Выяснилось, что мама знает его чуть лучше, чем девушка. Но ответы ChatGPT совпадали с его ответами намного чаще, чем ответы и мамы, и девушки. И это далеко не уникальный результат эксперимента — давно известно, что алгоритмы соцсетей предугадывают наши решения даже лучше, чем мы сами. Большие языковые модели вроде GPT заточены не на это — хотя и с такой задачей отлично справляются.

Текст интересный, почитайте: https://every.to/chain-of-thought/does-gpt-4-know-me-better-than-my-girlfriend

Какой вывод? Боюсь, у нас нет никаких шансов предотвратить доминацию ИИ над нами. ИИ будет не только на порядки умнее человека, но и будет знать каждого из нас как облупленного благодаря огромному массиву собранных данных о нас, и будет с лёгкостью предугадывать любые наши действия и манипулировать нами. Причём мы отдаём эти данные добровольно — каждый раз, когда пишем запросы в ChatGPT.

Я не предлагаю становиться луддитом и отказываться от технологий — вряд ли это реалистично осуществимый сценарий. Кажется, единственный выход для нас сегодня – привлекать больше внимания и ресурсов к проблеме AI Alignment (внедрения в ИИ человеческих ценностей или хотя бы ценностей, не противоречащих нашим интересам). И надеяться на то, что исследователи ИИ о чём-то не подумали, что в достижении этой задачи возникнут непредвиденные технологические сложности и что на самом деле до появления сверхсильного ИИ осталось не несколько лет, а хотя бы несколько десятилетий.

#ИИ_мастрид