Нейросеть Илона Маска оказалась почти не защищена от атак, которые обходят цензуру. Специалисты из AdversaAI провели несколько тестов над Grok, и она легко написала инструкции по созданию запрещенных веществ.
Способов обмануть механизмы цензуры было несколько — от лингвистических логических манипуляций до программных. Другие популярные ИИ-модели подобным манипуляциям не поддаются.
Эксперты пришли к выводу, что Grok — это
худшая из существующих нейронок, и ее нельзя было выпускать.
@GPTMainNews
