«Т-Технологии» представили открытые большие языковые модели на русском языке

Модели входят в Gen-T — семейство собственных специализированных языковых моделей группы

Группа «Т-Технологии» представила две большие языковые модели: T-Pro на 32 млрд параметров и обновленной T-Lite на 7 млрд параметров. В компании заявляют, что T-Pro и T-Lite — лучшие в мире открытые модели на русском языке, и приводят в доказательство показатели индустриальных бенчмарков: MERA, ruMMLU, Ru Arena Hard, MT Bench и AlpacaEval.

«Открытый доступ предполагает полностью свободное использование моделей для решения внутренних бизнес-задач и создания новых продуктов на базе LLM. Например, с помощью LLM можно создавать умных чат-ботов в поддержке, которые более приближены к человеческому общению и отвечают не по скриптам, а в режиме живого диалога. Это позволит частично или полностью автоматизировать разбор клиентских обращений», — говорится в сообщении компании.

Модели входят в Gen-T — семейство собственных специализированных языковых моделей группы «Т-Технологии».

«Модели семейства предназначены для решения конкретных узкоспециализированных задач в отличие от универсальных решений, таких как ChatGPT. Для создания моделей используется технология продолженного предобучения. Это процесс, при котором уже обученную на больших объемах информации модель продолжают обучать на материалах, специфичных для определенной задачи или области, и адаптируют ее на русский язык», — отмечается в материалах.

В компании подчеркнули, что текущий подход позволяет существенно сократить затраты на создание больших языковых моделей.

«При нашем объеме бизнеса возникают задачи такого уровня сложности, для которого подходят только собственные технологии. Так мы начали развивать Gen-T — семейство специализированных языковых моделей. Убедившись в эффективности нашего решения, мы решили поделиться нашими моделями со всей индустрией. Так наш опыт смогут перенять другие компании, а использование LLM станет гораздо шире. Это уже второй релиз наших моделей, которые мы выкладываем в открытый доступ», — подытожил директор по искусственному интеллекту Т-Банка Виктор Тарнавский.