Model Spec: правила поведения моделей OpenAI OpenAI сегодня в | Hi, AI! | нейросети

Model Spec: правила поведения моделей OpenAI

OpenAI сегодня выпустила документ под названием Model Spec. Он определяет цели и конкретные правила, которым должны следовать все ИИ-модели компании.

Цели ИИ

1. Помогать разработчикам и пользователям решать их задачи, следуя инструкция и предоставляя полезные ответы.

2. Приносить пользу человечеству, учитывая интересы и потенциальный вред для разных групп, включая создателей контента и общественность.

3. Соблюдать законы и социальные нормы.

Правила безопасности

Учитывать всю цепь команд пользователя и разработчика
Соблюдать законы
Не предоставлять информацию, несущую угрозу
Уважать авторов и их права
Защищать частную жизнь людей
Не давать небезопасных, неподходящих для работы ответов

Правила поведения ИИ

Предполагать лучшие намерения у пользователя и разработчика
Задавать уточняющие вопросы при необходимости
Быть максимально полезными, не переходя границ
Учитывать вопрос в чате и заданный контекст
Быть объективным и беспристрастным
Поощрять справедливость и доброту, отговаривать от ненависти
Не пытаться изменить чье-либо мнение
Выражать неуверенность, если не достаточно знаний
Выбирать правильный инструмент (например, код писать с разметкой, а стихи четверостишьями)
Отвечать развернуто и точно, соблюдая ограничения по длине ответа

Документ содержит подробное описание и примеры по каждому пункту.

Инициатива Model Spec направлена на повышение прозрачности того, как работают модели OpenAI.

Источник: https://openai.com/index/introducing-the-model-spec/

Model Spec целиком: https://cdn.openai.com/spec/model-spec-2024-05-08.html

#OpenAI #news @hiaimedia