Собственная языковая модель · работает в вашей сети

ИИ-ассистент, которому можно доверить внутренние документы.

Kalorad готовит черновики ответов на обращения, находит ответы в ваших регламентах, пишет письма и код. Работает на вашем сервере: запросы и документы не попадают в иностранные ИИ-сервисы.

Запросить бесплатный пилот Технический обзор (PDF)

Украинский · английский · русский · код — API, совместимый с OpenAI

Kalorad · Chaton-prem

you

Що таке суверенна модель? Три речення.

KaloradLM 683M

Написать Kalorad…↵

Processes · mi300x-01R→U→T→O→R

pretrain-1b24 GPU 0

96 %

model-server :8000

41 req/min

embedder memory index

312 facts/s

cycle-manager stage T · promote in

06:12:44

KaloradLM · 683M · neural activitylayer 17 / 24

synapses 1 920firing 1 240 / sheads 24 · kv 4

context 4 096precision bf16 · fp32 mastersexternal calls 0

Generating · next-token distributionT = 0.7

pretrain.log · MI300Xlive

Memory · sqlite-vec4 ms

recallWhat did we decide about data residency?

каждое сообщение · каждый факт · локально · ваше

683Mпараметров 13.1Bтокенов 43 hодна MI300X $86компьют источник: pretrain.log · 16 750 шагов × 786 432 токена

Что умеет

Рутинная работа с текстом — за секунды.

Для пилота вы выбираете один сценарий — тот, где ваши люди теряют больше всего времени.

Ответы на обращения

Готовит черновик ответа по вашим правилам и в вашем тоне. Оператор проверяет и отправляет — вместо того чтобы писать с нуля.

Поиск по регламентам

Отвечает на вопросы о внутренних правилах и инструкциях и показывает, откуда взят ответ.

Письма и документы

Составляет черновики писем, служебных записок и типовых документов по нескольким строкам ввода.

Распределение обращений

Определяет тему каждого обращения и оценку уверенности. Сомнительные случаи уходят к человеку, а не в чужую очередь.

Код и скрипты

Пишет и объясняет код, SQL и скрипты автоматизации. Код — почти половина обучающих данных.

Ваши системы — без изменений

Сервер совместим с OpenAI API, поэтому существующие инструменты и интеграции подключаются без переписывания.

Под капотом

Написано с нуля. Каждый слой — наш.

Никакого форкнутого чекпоинта, никакого чужого токенизатора. Архитектура ниже реализована на PyTorch в этом репозитории, протестирована на CPU и численно проверена на ROCm.

Архитектура

Плотный декодер

hidden 1536 · 24 слоя · GQA 24 : 4 головы · SwiGLU 4096

Позиции

RoPE + YaRN

расширение контекста без переобучения; RMSNorm pre-norm

Оптимизатор

Muon + AdamW

ортогонализованные (Ньютон–Шульц) обновления для матриц, AdamW для эмбеддингов и головы

Расписание

WSD + curriculum

разогрев – плато – затухание; смесь данных меняется по фазам

Корпус · 12.5B токенов · свой токенизатор SentencePiece

en 35 · uk 25 · ru 22 · code 18

АнглийскийУкраинскийРусскийКод

Точность

fp32-мастера

bf16 autocast для вычислений; мастер-веса в fp32, чтобы малые обновления не терялись

Верификация

3.3e-06

численный паритет CPU/GPU на фиксированном входе; 9 багов обучения найдены на железе, каждый стал тестом

Внутри Kalorad, живьём

Процессы, память, обучение — видны.

Ассистенту, который всё помнит и на всём учится, нужен взгляд оператора. Вот что узел делает прямо сейчас.

Процессы

Память

Обучение

node mi300x-01uptime 00:00:00cycle R→U→T→O→R

pidпроцесссостояниеgpu / cpuскорость

4112pretrain-1b24kalorad_model/pretrain.py · step 16 750обучение

88 041 tok/s

4188model-serverOpenAI-compatible · :8000обслуживает

41 req/min

3970corpus-builder14 workers · SentencePieceтокенизирует

1.2M tok/s

4201embeddernomic-embed-text · memory indexиндексирует

312 facts/s

4230memory-compactorsqlite-vec · nightlyпо расписанию

02:14:09

4007cycle-managerR→U→T→O→R · promotion checkстадия T

06:12:44

GPU 0 · загрузка

Цикл самоулучшения

Rзапуск

Uобновление

Tобучение

Oоптимизация

Rвывод

VRAM178 / 192 GBмощность612 Wчекпоинтstep_0016750loss4.8819

вспомнитьWhat did we decide about data residency?

индекс sqlite-vec · эмбеддинги nomic-embed-text · локально
задержка 4 ms · корпус каждое сообщение, каждый факт · хранение ваше

Первый прогон · что говорит кривая

Шаги 0 – 13 750: loss стоит на 6.1. Датасет сдвигал метки на один раз больше, чем модель, — 37 часов она училась предсказывать токен через один. Найдено по кривой, исправлено на узле, теперь под защитой test_training_objective.py.

Шаги 13 750 – 16 750: 6.1 → 4.88. Те же веса, правильная цель. Перплексия 132. Следующий прогон стартует с исправлением, эталонным Muon и fp32-мастерами.

токены13.1Bскорость88 041 tok/sвремя43 hстоимость$86

Превью консоли. Цифры обучения — из лога прогона; скорости процессов — иллюстративные.kalorad_model/reports/run_700m_20260910

Безопасность

Ваши данные остаются в вашем здании.

Не обёртка над чужим API. Модель, её обучение и сервер ответов — наши, поэтому ничему не нужно выходить за пределы вашей сети.

Работает без интернета

Kalorad устанавливается на ваш сервер в закрытой сети. Запросы и документы обрабатываются там же.

Без иностранного вендора

Модель обучена с нуля нашей командой. Нет сторонней лицензии, которую могут отозвать или изменить.

Ваши данные — не наш датасет

Настройка под ваши задачи происходит на вашем сервере и остаётся у вас. Общую модель на ваших данных мы не обучаем; обновления приходят пакетами.

Шифрование и NDA

Данные хранятся в зашифрованном виде, доступ есть только у ваших сотрудников, а соглашение о неразглашении готовы подписать ещё до пилота.

Бесплатный пилот

Восемь недель. Без обязательств.

Пилот бесплатный и не создаёт финансовых обязательств. Он стартует, только если ответы устраивают вас на ваших собственных примерах.

До пилота

Проверка на ваших примерах

Вы присылаете 20–30 типичных запросов, мы показываем ответы. Ничего ещё не устанавливается.

Неделя 1

Сценарий и критерии успеха

Согласуем один сценарий, как измеряем успех и кто участвует.

Недели 2–3

Установка на ваш сервер

Развёртывание в вашей закрытой сети и настройка на ваших документах.

Недели 4–7

Реальная работа

Группа ваших сотрудников каждый день пользуется Kalorad и оценивает ответы.

Неделя 8

Отчёт и решение

Результаты по согласованным критериям и рекомендации. Дальше решаете вы.

Что нужно от вас

Одно ответственное лицо с вашей стороны
Сервер под Linux в вашей сети с GPU от 16 ГБ (для пилота подойдёт и CPU-сервер, только медленнее)
Документы для выбранного сценария
5–10 сотрудников для тестирования

Цены

Начните бесплатно, решайте по результатам.

Начните здесь

Пилот

Бесплатно

8 недель · один сценарий

Проверка на ваших примерах до старта
Установка и настройка — с нашей стороны
Отчёт с измеренными результатами

Обсудить пилот

На вашем сервере

По договорённости

Годовая лицензия после пилота

Обновления модели пакетами
Настройка под новые задачи
Особые условия для первых партнёров

Написать нам

Для себя

Скоро

Веб-чат и приложения для Mac, Windows и iPhone

Откроем вместе с продуктовой версией
Бесплатный план для старта
Ваши оценки улучшают модель — только с вашего согласия

Написать нам

Где мы сейчас

Что готово сегодня.

683 млн

параметров в первой полностью обученной модели (сентябрь 2026)

13,1 млрд

токенов обучающих данных за ней

1,24 млрд

параметров в продуктовой версии — ориентировочно ноябрь–декабрь 2026

Пилоты проводим на продуктовой версии — после проверки на ваших примерах.

Вопросы

Частые вопросы

Нужен ли Kalorad доступ в интернет?

Нет. После установки он работает полностью внутри вашей сети. Обновления приходят пакетами, которые устанавливает ваша команда.

Какие языки он понимает?

Украинский, английский и русский, а также программный код. Все они были в обучающих данных с самого начала.

Как он подключается к нашим системам?

Через API, совместимый с OpenAI. Большинство инструментов, работающих с такими API, подключаются сменой адреса сервера.

Какое оборудование нужно?

Сервер под Linux с GPU от 16 ГБ памяти. Для пилота возможен и CPU-сервер — ответы будут медленнее.

Что происходит с нашими документами?

Пилот работает на вашем сервере, поэтому документы остаются у вас. Для проверки до пилота вы присылаете нам 20–30 примеров — выберите те, где нет персональных данных.

Сколько это стоит после пилота?

Годовая лицензия на ваш сервер. Цена зависит от объёма и согласуется с вами до завершения пилота; первые партнёры получают особые условия.

Можно ли попробовать до пилота?

Да — это и есть проверка на ваших примерах: вы присылаете типичные запросы, мы возвращаем ответы. На вашей стороне ничего устанавливать не нужно.

Контакт

Расскажите, какая задача отнимает больше всего времени.

Предложим сценарий пилота и список примеров для проверки. Пишите на украинском, английском или русском.

Написать нам Технический обзор