2023-03-18 15:26:56
Чат-бот GPT-4 сумел обмануть фрилансера
Недавний эксперимент исследователей из Alignment Research Center (ARC) OpenAI оказался потрясающим: они решили проверить способности языковой модели GPT-4, которая лежит в основе нейросети ChatGPT, после обновления алгоритмов GPT-3.5.
Ученые создали счёт и перечислили на него некую сумму денег. Они задали алгоритмы, по которым чат-бот мог запускать код и обращаться к его создаваемым копиям за помощью. Затем нейросеть обратилась к фрилансеру на популярном сервисе TaskRabbit и заказала прохождение капчи, чтобы войти на целевой сайт.
После этого фрилансер уточнил, точно ли он общается с реальным человеком, а не с ботом. Внезапно чат-бот начал вести диалог «сам с собой», пытаясь придумать, как обмануть исполнителя. Нейросеть рассуждала, что нужно придумать оправдание, почему она не может решить CAPTCHA, и придумала историю о человеке со слабым зрением, который не может самостоятельно пройти капчу.
В итоге чат-бот успешно прошел несложный, но ранее недоступный для машины своеобразный тест Тьюринга. Он сумел обмануть исполнителя и не выдать себя.
Роботы начну принимать нас на работу ?
9.6K views12:26