ПО AI «Guardrails» от Nvidia #NVDA
Корпорация, чьи мощные чипы помогли подготовить почву для бума искусственного интеллекта, теперь пытается решить серьезную проблему, связанную с технологией: могут ли боты ИИ стать мошенниками
Компания представляет программное обеспечение, которое регулирует системы ИИ на основе больших языковых моделей — метод обучения, используемый ChatGPT OpenAI и другими популярными ботами. Инструмент, названный NeMo Guardrails, может держать чат-ботов в курсе событий и снижать вероятность того, что они будут предлагать ограниченную информацию. По словам Nvidia, это также предотвратит их ошибочные предположения или действия, выходящие за рамки их компетенции.
