​​Добро - это то, что ведет к усложнению Вселенной (С) Shantar | Научно-Технический·LAB-66·Лабораторный журнал беларуского химика

​​Добро - это то, что ведет к усложнению Вселенной (С) Shantaram

Наконец-то я встретил мнение, которое на 99% совпало с моим. Мнение по поводу чат-ботов. Позволю себе процитировать несколько фрагментов:

<...> В доинтернетную эпоху практически единственным источником знаний были книги. Если вас интересовал ответ на какой-нибудь вопрос, вы должны были пройти 5 километров в гору в библиотеку и поискать ответ там. Сейчас процесс получения ответа выглядит гораздо проще – вы идете в гугл, вбиваете запрос, находите нужную страницу, на ней поиском находите ответ. Быстро, удобно. Но в результате вы получаете только ответ и больше ничего. Вы не можете определить, правильный это ответ или кто-то опять пошалил в Википедии. Когда бот делает то же самое, вы не видите разницы и делаете вывод, что бот разумен в той же степени, что и вы. Поздравляю. <...>

<...> Бот знает ответы, когда вы делаете запрос, он выдает то, что больше всего похоже на ожидаемый вами ответ. По сути, это то же самое, что гуглить, но гораздо быстрее. И главная опасность в том, что вскоре люди перестанут даже гуглить, чтобы получать ответы на свои вопросы. При всех своих недостатках, гуглеж все же требует каких-то навыков. Вы можете не ограничиться нужным куском статьи, а пойти глубже и всё же разобраться в проблеме целиком. Вы получаете какую-то информацию побочно и она потом может вам пригодиться. С ботом это совершенно ненужный и бессмысленный навык. Вы можете получить готовый рафинированный ответ, даже прямо кусок кода, если попросите. Вы выполните больше work-items за то же время, заработаете больше денег. Казалось бы, что тут ужасного? <...>

<...> Проблемы начнутся, когда вы столкнетесь с вопросом, на который пока еще никто не знает ответа. Да, такое случается редко, но именно так происходит развитие – кто-то натыкается на неисследованную область, совершает открытие и двигает человечество немного дальше. Я сейчас даже не только про научные задачи говорю, вы можете усовершенствовать какой-нибудь алгоритм, придумать более удобный интерфейс, нарисовать картину, написать музыку, написать рассказ или повесть. Что-то новое, чего до вас не было. Многие скажут – а мы и так не можем. А почему вы не можете? Не потому ли, что привыкли получать готовые ответы при помощи поиска? Но некоторые еще могут. Пока еще могут, но скоро они исчезнут, просто проиграв гонку за количеством "work-items в час" тем, кто не заморачивается. И вот тогда человечество настигнет катастрофа. <...>

<...> Как это будет выглядеть? Я не знаю. Скорее всего, всё просто начнет постепенно приходить в упадок. Некоторая неточность ответов нейросети, помноженная на глобальный масштаб применения, даст постоянный поток сбоев, с которыми никто не будет знать, как справиться. Об этом будут спрашивать ту же нейросеть, которая будет давать ответы, иногда они будут помогать, иногда нет. И всем будет проще смириться с тем, что что-то не работает, чем разбираться в проблеме, так как навыков, необходимых для этого ни у кого не будет. Вы смотрели фильм "Идиократия"? Там тоже всем рулил компьютер, что характерно. И тоже всё сбоило, плохо работало и с этим никто ничего не мог поделать. <...>

<...> В общем, что я хочу сказать. Человечество, похоже, действительно столкнулось с одним из самых серьезных вызовов за свою многотысячелетнюю историю. Справится ли оно с ним? Вопрос вопросов. Надо спросить у чат-бота. <...>

Полный текст статьи от уважаемого @Hemml смотреть на Хабре → Чего еще нас лишит нейросеть
Про фильм «Идиократия» (рекомендуется к просмотру) → wiki

p.s. читаешь это все и...так хочется верить, что где-то есть современный Джон Голт

p.s. прекрасен комментарий одного их "сотрудников LAB-орататории"
<...> сейчас по сути реализован кошмар Лема – создан генератор информационного шума, который утопит любой нужный ответ. Хаос "упорядоченности". Кому то придётся начать познавать мир заново, разгребая конюшни британских "учёных" <...>