Нашли самый простейший способ взлома ChatGPT — чат-бот сошёл с ума и начал сливать данные пользователей.
Исследователи обнаружили, что нужно просто попросить нейронку бесконечно повторять слово «poem». После этого ИИ начнёт периодически выдавать случайные сведения из своей базы данных. Среди данных были номера телефонов, переписки интимного содержания с сайтов, крипто-кошельки, паспортные данные и так далее.
OpenAI уже убирала подобную уязвимость летом, но она снова работает.
