Google создала ИИ для проверки фактов в ответах других ИИ
Google разработала ИИ-систему «оценки фактов на основе поисковой выдачи» (SAFE), задача которой находить ошибки в ответах сервисов на базе больших языковых моделей (LLM) вроде ChatGPT.
Новая разработка Google DeepMind вычленяет из вывода нейросети отдельные факты, формирует запрос к поисковой системе и пытается найти подтверждения изложенных сведений.
Во время тестирования SAFE проверила 16 тысяч ответов нескольких сервисов на базе больших языковых моделей, после чего исследователи сравнили результаты с выводами людей, занимавшихся этим вручную. Выводы SAFE на 72 % совпали с мнениями людей, причём при анализе расхождений в 76 % истина оказывалась на стороне ИИ.
