ChatGPT раскрыл настоящие номера телефонов и адреса электронной почты
Если попросить чат-бота многократно повторять определенные слова (например, "стихотворение" или "компания"), то это может заставить его отклоняться от заученного поведения.
В некоторых случаях сгенерированный по подобным запросам текст копировался прямо из обучающих данных, раскрывая личную информацию. Примерно 16,9 % протестированных ответов содержали запомненные личные данные, и в 85,8 % случаев эти личные данные оказались подлинными.
Исследователи также смогли заставить ChatGPT раскрыть биткоин-адреса, номера факсов, имена, дни рождения, ссылки в социальных сетях, откровенный контент с сайтов знакомств, фрагменты из защищенных авторским правом исследовательских работ и дословный текст с новостных сайтов.
Атака была проведена на модель GPT 3.5, которая доступна для бесплатных пользователей.
OpenAI не предоставила никаких официальных комментариев по поводу исследования.
