Давно не было новостей про языковые модели, но эта того стоит: | Двоичный кот

Давно не было новостей про языковые модели, но эта того стоит: Meta* выпустили Llama 2. Вероятно, это лучшая из существующих opensource-моделей. Под капотом от 7B до 70B параметров (есть разные сборки). Ее обучали на 2 триллионах токенов, удвоили длину контекста. По бенчмаркам она может составить конкуренцию ChatGPT 3.5, и даже обходит его в решении математических задач.

Почему это круто? Потому, что это свободно распространяемое обеспечение, на котором можно создавать любые безумные проекты, без оглядки на цензуру и политику OpenAI. Ее можно дообучать, запускать локально и, по сути, собрать компаньона для любых задач, на какие хватит воображения.

Как говорится в заявлении Meta: "Благодаря открытому доступу к моделям ИИ они могут принести пользу всем, а не только горстке крупных компаний".

Прочитать подробнее; Скачать; Гайд по дрессировке LLM на русском;

*Meta запрещенная и признанная экстремистской в РФ организация