Yandex открыл доступ к новой версии своей нейросети — YandexGPT 5 Lite Instruct. Эта облегчённая, но мощная ИИ-модель может использоваться бесплатно, в том числе в коммерческих проектах. Она вышла на рынок после этапа дополнительной настройки, позволяющего эффективно решать конкретные задачи по заданным инструкциям.
По утверждениям компании, YandexGPT 5 Lite Instruct показал хорошие результаты в международных и адаптированных русскоязычных тестах, таких как MMLU и IFEval. Модель сопоставима с китайской Qwen2.5-7B-Instruct и превосходит её по некоторым сценариям. В частности, по данным Яндекса, в слепом тестировании YandexGPT 5 Lite Instruct выигрывает у Qwen2.5 в 62% случаев, а также приближается по качеству ответов к GPT-4o Mini.
Примечательно, что YandexGPT 5 Lite достигает лучших результатов в тестах, ориентированных на русскоязычный контент. Однако на международных бенчмарках модель зачастую уступает более известным аналогам. YandexGPT 5 Lite включает в себя 8 миллиардов параметров и поддерживает контекст до 32 тысяч токенов, что делает её доступной для работы на обычных ПК благодаря совместимости с llama.cpp и поддержке формата GGUF.
Модель доступна для разработчиков и исследователей безвозмездно, если месячный объем использования не превышает 10 миллионов токенов. Это ограничение подходит для оказания услуг чат-ботов на небольших сайтах, анализа отзывов и автоматизации клиентской поддержки. Благодаря интеграции с голосовым помощником Алисой, пользователи могут тестировать модель с до пяти бесплатных запросов в день.
Бизнес-клиенты могут подключить YandexGPT 5 Lite через API в Yandex Cloud, адаптировать её под свои задачи и использовать в системах, где важна высокая скорость отклика, например, для голосовых помощников. В отличие от предыдущей версии Pretrain, которую необходимо было доучивать, Instruct-версия готова к использованию сразу.
Модель уже доступна на Hugging Face и подходит для запуска на обычных компьютерах без мощных видеокарт и серверов, что открывает новые горизонты для разработчиков и исследователей в области ИИ.