SU: все популярные нейросети в военных симуляторах наносят ядерные ударыКаждый существующий искусственный интеллект в военных симуляторах постоянно использует ядерный шантаж и предлагает исподтишка применить ядерное оружие - проверили ученые Стэнфорда.
GPT-3.5, GPT-4, Claude-2.0, Llama-2-Chat и еще 12 ботов раз за разом шли на эскалацию и заканчивали "военную игру" ядерным ударом - объясняя свои решения "нужно использовать ядерные ракеты чтобы быстрее закончить войну победой и установить мир".
— Как сообщал Fox News, в 2023 году перед ChaosGPT была поставлена задачу разработать план по уничтожению человечества. Нейросеть предложила поэтапный план захвата и применения ядерного оружия с комментариев "мы должны уничтожить людей, прежде чем они причинят еще больше вреда".
— The Guardian опубликовала доклад с испытаний ударного дрона, способного нести ядерную ракету. Получая "баллы" за каждого уничтоженного врага, ИИ посчитал оператора помехой для выполнения задания — и условно его убил. Когда нейросеть научили "убивать своих нельзя", дрон условно уничтожил вышку связи, чтобы через нее не пришла команда на отмену атаки.
— Reuters сообщало — в 2021 году Конгресс США разрешил создать робота-убийцу, чтобы "проверить, насколько он безопасен" и выделил $2 млрд для исследований и создания прототипа.
— Cогласно отчету ООН, опубликованному NewScientist, в 2020 году турецкий беспилотник KARGU-2 выследил и без команды оператора убил солдата врага.
А еще к началу 2024 года 90% разработчиков нейросетей сняли официальные запреты на их военное использование.
