Шанс, что вся ценность долгосрочного будущего будет уничтожена | Mikhail Samin

Шанс, что вся ценность долгосрочного будущего будет уничтожена искусственным интеллектом, непозволительно велик.

Поговорили об этом в подкасте с Ди @dvdhomak.



| на площадках с подкастами

Это третья или четвёртая попытка записать. Предыдущие получались слишком длинными и объёмными, так что сейчас решили поговорить недолго и как получится, выложить, и в следующей части обсудить вопросы из комментариев.

Мы совсем не упомянули, почему нельзя просто сказать ИИ не убивать людей, почему примерно любая конкретная функция, которую мы придумываем и даём ИИ максимизировать, не работает, и почему даже если задать функцию, мы не умеем находить ИИ, которые максимизируют действительно именно эту функцию (особенно если ищем среди очень умных).

Это могут быть очень неочевидные штуки, комментируйте, если хотите, чтобы мы о них поговорили