Inception и MBZUAI представили SHERKALA – революционную языковую модель для казахского языка

Inception (G42), ведущий разработчик AI-решений, совместно с Университетом искусственного интеллекта Мохаммеда бин Зайеда (MBZUAI) и при поддержке Cerebras объявили о запуске SHERKALA – первой высокоточной казахской языковой модели (LLM). Этот инновационный проект направлен на расширение возможностей более 13 млн носителей казахского языка, обеспечивая им доступ к передовым технологиям генеративного ИИ, сообщили в компании Inception.

SHERKALA – это модель с 8 млрд параметров, обученная на 45 млрд слов, с основным фокусом на казахском языке, а также поддержкой английского, русского и турецкого. Она использует Llama 3.1, адаптированную для казахского языка, с расширением токенизатора на 25%, что повышает эффективность понимания и генерации текста. Обучение модели проходило на Condor Galaxy, одном из самых мощных суперкомпьютеров для ИИ, созданном G42 и Cerebras.

Др. Эндрю Джексон, CEO Inception (G42), отметил:

"Запуск SHERKALA – это важный шаг в поддержке языковых сообществ, которые раньше были недостаточно представлены в AI. Вместе с MBZUAI мы создали модель, которая поможет носителям казахского языка и изменит рынок LLM, сделав технологии более доступными и эффективными. С моделями JAIS для арабского, NANDA для хинди и теперь SHERKALA для казахского мы продолжаем расширять границы AI и обеспечивать языковое разнообразие в цифровом мире".

SHERKALA задает новый уровень для казахских языковых моделей, отлично справляясь с пониманием и созданием текстов. Благодаря эффективной работе с токенами и продвинутым диалоговым возможностям, она обходит более крупные модели, включая те, что в несколько раз превышают ее по параметрам.

Профессор Преслав Наков, заведующий кафедрой и профессор обработки естественного языка в MBZUAI, заявил:

"Мы рады работать с Inception над SHERKALA — передовой казахской AI-моделью. Этот проект помогает развивающимся рынкам, делает AI доступнее, сохраняет язык и поддерживает цифровые сообщества".

SHERKALA теперь доступна как open-source модель на Hugging Face: SHERKALA на Hugging Face

*На правах PR