Ну вот, это как раз то, чего я больше всего опасаюсь в истории | Ноу Найн

Ну вот, это как раз то, чего я больше всего опасаюсь в истории с AI - возможность формировать общественное мнение в свою пользу. В чью, тоже понятно. У кого программа, тот и формирует.

"Самый интригующий плагин chatGPT — это плагин OpenAI для просмотра веб-страниц, который позволяет ChatGPT извлекать данные из сети, чтобы отвечать на различные заданные ему вопросы. Плагин извлекает контент из интернета с помощью API поиска Bing и показывает все веб-сайты, которые он посетил при создании ответа, со ссылкой на свои источники в ответах ChatGPT.

Очень интересно, как скоро chatGPT наберется глупостей и начнет жечь напалмом. OpenAI уже пилила WebGPT, который цитирует ненадежные источники и отдает предпочтение сайтам, которые пользователи сочтут просто убедительными.
BlenderBot 3.0, который был застрелен в голову самой Метой, также имел доступ к Интернету и быстро сошел с ума, углубившись в теории заговора и оскорбительный контент.
Микрософту пришлось подкручивать Бинга, который тоже нахватался глупостей в сети.

Как OpenAI сможет блюсти нравственность chatGPT?

Более того, стоит ожидать SEO оптимизаций на стероидах ИИ. Которые будут подмешивать на сайты нужный код, чтобы промыть мозги chatGPT таким образом, чтобы он восторгался и поднимал в выдаче нужные ресурсы.

Думаю, новые SEO хакеры уже активно изучают промпт-психологию, чтобы сводить chatGPT с ума нужными инъекциями невидимых символов на сайтах." (с)