​​Как человечество отупеет благодаря ИИ Интересную мысль выск | Дорого и долго

​​Как человечество отупеет благодаря ИИ

Интересную мысль высказал профессор Кембриджского университета Росс Андерсон, - он считает что из-за ИИ произойдет глобальный интеллектуальный упадок. Профессор кстати не последний человек в Кембридже и является одним из известнейших консультантов в области инфобезопасности. Его работы легли в основу моделей угроз в различных областях, от финансов до здравоохранения. Итак, о чем говорит уважаемый Росс:

Сегодня большая часть текстов в Интернете написана людьми. Эти тексты использовались для обучения больших языковых моделей (LLM), которые стали главным инструментом создания и редактирования новых текстов.
Теперь все больше текстов будет создаваться LLM. К чему это приведет? Что произойдет с GPT-N, когда LLM займут значительную часть Интернета?
И не только тексты станут проблемой. Если использовать LLM для обучения музыкальных моделей, мы можем получить что-то, похожее на Моцарта, но без его великолепия - "Сальери". Если затем Сальери обучит следующее поколение и так далее, какое звучание будет у пятого или шестого поколения?

То же самое произойдет и с LLM. Использование модели для обучения контентом, созданным самой моделью, приведет к необратимым дефектам. Исходный контент исчезнет и поздние поколения будут порождать образцы, которые никогда не были бы созданы оригинальной моделью, они будут неправильно воспринимать реальность на основе ошибок своих предков.

Это называется "коллапс модели", который приведет к:

- Засорению Интернета бессмысленным контентом;
- Оглуплению людей, которые будут взаимодействовать с конвентом созданным на основе неверной информации.

Мысль безусловно интересная, но кажется что этого можно избежать, а отупеем мы скорее от думскролинга