Человечество vs Искусственный интеллектОбещанный пост с Пашей Комаровским на сложную тему AI alignment'а или по-простому «эй, мы тут создаем очень мощную штуку, которую не умеем контролировать, чо делать?»
Тему сейчас много обсуждают в англоязычных интернетах, мало в русскоязычных, а понимает кажется вообще никто.
В посте мне даже пришлось снять свою традиционную шапку технобро, хотя все явно ожидали от меня историю формата «да всё будет хорошо, это просто машинлернинг, кати в прод, там разберемся», и вытащить наружу все аргументы, о которых нам всё-таки стоит подумать.
У статьи будет две части. В первой, своей, я ставлю проблему, а во второй Паша @RationalAnswer и Игорь @seeallochnaya будут разбираться в аргументах сторон.
Такой вот пост. Немного неформатный для моего блога, так как я люблю писать о конкретных вещах, но было очень классно закопаться в тему, которая происходит прямо сейчас и никем не понимается (даже мной).
https://vas3k.blog/blog/ai_alignment/
