Почему ChatGPT ошибается? Дело в том, что генеративные модел | Силиконовый Мешок

Почему ChatGPT ошибается?

Дело в том, что генеративные модели, это не настоящий Искусственный Интеллект - они не умеют «думать», их задача генерировать текст или изображения максимально похожиие на то, что они «видели», когда обучались.
А обучение таких нейроных сетей очень похоже на дрессировку животных: за правильные ответы их хвалили (давали токен), а за неправильные - «наказывали» (отбирали токен). Поэтому #ChatGPT, как и другие языковые модели, стараются выдавать результат ожидаемый результат.

Например, если вас попросят умножить 13 на 17, ответ сразу придет в голову?
Для большинства из нас, вероятно, нет. Тем не менее, это не означает, что люди не способны умножать двузначные числа.
За несколько секунд, ручки и бумаги, несложно вычислить, что 13 x 17 = 130 + 70 + 21 = 221.

Точно так же, если вы дадите GPT-3 задачу, которая слишком сложна для выполнения за то время, которое требуется для вычисления следующего токена, он может сфабриковать неверное предположение. Тем не менее, как и в случае с людьми, это не означает, что модель не способна справиться с задачей. Имея некоторое время и возможность, чтобы все обдумать, модель сможет достоверно ответить.

Тут нам на помощь приходит Let's think step by step - как пользоваться этим хаком я уже писал.

Еще я бы посоветовал, придерживаться следующих правил при написании #prompt’а:
1. Дайте четкие инструкции
2. Разбивайте сложные задачи на более простые подзадачи
3. Структурируйте инструкцию, чтобы удерживать модель в фокусе
4. Попросите модель объяснить, прежде чем отвечать
5. Попросите обосновать множество возможных ответов, а затем синтезируйте из них финальный
6. Создайте множество выходных данных, а затем используйте модель, чтобы выбрать лучший из них

А главное проявляйте креативность и логичность в составлении промптов и все получится!