ИИ-ассистент для написания кода Copilot от OpenAI может предла | МГИМО. Искусственный интеллект

ИИ-ассистент для написания кода Copilot от OpenAI может предлагать закрытые ключи от реальных криптовалютных кошельков

По словам одного из разработчиков, Copilot внезапно предложил что-то похожее на закрытый ключ от кошелька с криптовалютой. Оказалось, он связан с реальным аккаунтом:
«Я был шокирован. Закрытый ключ подобен замку в вашей казне: если его сольют, ваши активы могут быть украдены», — сказал программист

Другой разработчик предположил, что Copilot извлек информацию из открытых репозиториев GitHub. ИИ-ассистент запомнил общедоступные данные и при правильном запросе вывел «их на поверхность», добавил он

По всей видимости, закрытый ключ действительно отображался в общедоступных репозиториях GitHub. Программисты предположили, что его создали в целях тестирования. Кошелек активен и использовался для отправки и получения реальных токенов

Некоторым разработчикам также удалось найти закрытые ключи. Они оказались связанными с другими криптокошельками, некоторые из которых содержали небольшую сумму денег

Бывший научный сотрудник OpenAI Ари Герберт-Восс предположил, что утечка ключей произошла из-за того, что они хранились в открытом доступе.

В июне 2021 года GitHub представил инструмент для автозаполнения кода Copilot. Ассистент создан в сотрудничестве с OpenAI на базе языковой модели Codex. В июле инструмент заподозрили в копировании защищенных авторским правом фрагментов кода. В октябре исследователи выяснили, что 30% нового кода на GitHub написано с помощью Copilot