Google создает red team для атак на ИИ-системы Google сообщае | Хакер — Xakep.RU
Google создает red team для атак на ИИ-системы
Google сообщает, что создала red team, которая будет специализироваться на «сложных технических атаках на системы ИИ». Среди примеров таких атак в отчете компании перечислены промпт-инжиниринг, извлечение информации из обучающих данных LLM и так далее.