Подробнее о компетенции

Вертикальная языковая модель

Превратить отраслевые знания в базу, пригодную для генерации, чтобы модель говорила на профессиональном языке и выдавала готовый результат.

01 / Технические решения

Три неизбежных компромисса

У каждого варианта своя цена; ниже — что мы выбрали и почему.

Как строить базу знаний: сначала структура или сразу документы

Обычная практикаПрямая загрузка файлов PDF/Word в векторное хранилище

Другой вариантСначала структурное извлечение, затем загрузка в векторную базу

Наш подходСмешанный подход: структурированные поля для поиска, основной текст — для семантического отбора

Прямая загрузка документов хорошо работает в демо и рушится в промышленной эксплуатации: система не отвечает на структурные вопросы вроде «какова область применения пункта 4.2». Мы выбрали гибридный подход: таблицы и пункты сначала извлекаются в структурированные поля (точное совпадение), абзацы основного текста идут через векторный отбор (для размытых запросов), затем результаты объединяются и ранжируются. Цена — дополнительный конвейер извлечения и очистки; выигрыш — точность переходит от догадки к поиску.

Как управлять генерацией: свободное письмо или жёсткий шаблон

Обычная практикаПолностью отдать генерацию модели

Другой вариантСтрого по шаблону, без импровизации

Наш подходКаркас шаблона + наполнение моделью, двойная проверка ключевых полей

Свободная генерация даёт разный результат на один и тот же вход, и пользователи не станут ей доверять. Жёсткий шаблон просто отказывает в ситуации, которую не покрывает. Мы делим документ на «каркас» и «наполнение»: каркас (порядок разделов, обязательные пункты) задаёт шаблон, наполнение (конкретные описания, примеры) генерирует модель, после чего результат проходит проверку полей и при несоответствии генерируется заново.

Выбор развёртывания: публичный API или локальная модель

Обычная практикаВызов API публичных языковых моделей: лучший результат при минимальных затратах

Другой вариантОткрытая модель развёрнута локально, данные не покидают сеть

Наш подходДва контура: во внутренней сети — локальные модели, в интернете — API, единый интерфейс

Первый вопрос почти любого клиента — могут ли данные не выходить за пределы их внутренней сети. Поэтому локальное развёртывание не опция, а условие допуска. Цена локальной модели — самостоятельно делать квантование, ускорение инференса и планирование видеопамяти: модель 7B работает на потребительской видеокарте, но при росте параллельных запросов начинает тормозить, поэтому нужны пакетная обработка и очереди.

02 / Сравнение вариантов

Одна задача — три подхода

Нет оптимального решения — есть решение, подходящее сценарию.

Решение	Точность	Срок внедрения	Стоимость обслуживания	Кому подходит
Промпт-инжиниринг + публичный API	Высокий (сильные модели)	1–2 недели	Низкая (оплата по факту использования)	Внутренние испытания, неконфиденциальные сценарии
Локальная модель + простой RAG	Средний (ограничен качеством поиска)	3–6 недель	Средний (нужен контроль видеопамяти и одновременных запросов)	Чувствительные данные, большой объём контента
Локальная модель + структурированная база знаний + гибридный поиск	Высокий (прослеживаемые источники)	2–4 месяца	Средне-высокий (нужны очистка данных и оценка качества)	Промышленная среда, где за ответы нужно отвечать

Заявленная точность — субъективная оценка, а не стандартный показатель; реальную разницу можно измерить только на собственном наборе вопросов заказчика.

Что мы делаем

Построение и очистка отраслевой базы знаний
Движок шаблонов документов (положения / планы реагирования / журналы учёта)
Развёртывание в контуре заказчика и невыход данных за его пределы
Генерация по сценарию: заполнение формы → готовый документ

Обсудить задачи

Формат поставки

Способ развёртыванияЛокально / частное облако / внутренняя сеть

Состав поставкиСистема + документация + обучение

Поддержка эксплуатацииУдалённо + на месте

Поставка исходного кодаОбсуждается

Похожие кейсы

Проверенные системы

Названия клиентов скрыты в соответствии с требованиями конфиденциальности.

Собственный продукт / вертикальная языковая модель

Движок генерации отраслевых документов соответствия (собственная разработка)

Предыстория: Предприятиям нужен полный комплект регламентов, планов и журналов, разработанных по национальным стандартам. Традиционный путь — обращение к консалтинговым компаниям: долго и дорого.
Решение: Применение вертикальной языковой модели: вы вводите сведения о предприятии и получаете комплект документов по соответствию требованиям — редактируемый онлайн и выгружаемый в Word.
Технологии: Отраслевая база знаний (структурированные пункты национальных стандартов) · движок шаблонов документов · генерация языковой моделью · взаимодействие через формы
Результаты: Охватывает две системы национальных стандартов и формирует полный комплект документов за один проход; предприятие дорабатывает его под себя и использует.

Все кейсы

03 / Путь внедрения

Сколько шагов от нуля до запуска

Порядок нельзя менять: если начать с операций записи или многошаговой оркестрации, ошибки будет очень трудно локализовать.

Отобрать 200 реальных вопросов

Берите их из имеющихся обращений клиента, вопросов при приёмке и заявок на ремонт — не выдумывайте. Эти 200 записей — база для всей последующей оценки; без них настройка идёт вслепую.

Создать минимально достаточную базу знаний

Начните с того, чтобы превратить 3–5 ключевых документов (стандарты, регламенты, шаблоны) в структурированную базу знаний и отработать всю цепочку «вопрос → поиск → генерация → ссылка на источник».

Задать базовую линию оценки

Прогоните эти 200 вопросов, вручную отметьте «верно / неверно / неполно» и посчитайте базовую точность. Без базовой линии любая последующая оптимизация — лишь ощущения.

Дополнить данные, настроить поиск

По типам ошибочных ответов добавлять документы, менять размер фрагментов и настраивать веса объединения. Обычно такой цикл поднимает точность на 15–30 процентных пунктов.

Запуск + разметка событий

Встроить в реальный рабочий процесс и фиксировать по каждому вопросу попадание в найденные фрагменты и отзыв пользователя. Запуск — не финиш, а начало роста набора для оценки.

04 / Ключевые показатели

Проверяемые цифры

Без прилагательных — только конкретные параметры.

Документы, охваченные базой знаний50–400 документов на проект　Четыре категории: стандарты / регламенты / шаблоны / журналы учёта

Время одной генерации8–25 секунд　Локальное развёртывание, модель класса 7B, с поиском

Доля ответов с прослеживаемым источником100%　Каждый вывод сопровождается документом и номером пункта

Период холодного старта3–6 недель　От выборки вопросов до работающего сквозного сценария

05 / Частые вопросы

О чём чаще всего спрашивают технические руководители

Это вопросы, которые нам действительно задавали; ответы — без маркетинговых клише.

Какую модель вы используете?

Без привязки к вендору. В open-source берём семейства Qwen / Llama, выбирая под вычислительные и языковые потребности клиента; если нужна более сильная модель и разрешён выход в интернет, можно подключить коммерческий API. Модель заменяема — реальная работа в базе знаний и оценке качества.

Какой точности можно достичь?

Зависит от качества базы знаний и типа вопроса. Фактологические вопросы (найти пункт, найти параметр) обычно дают более 85 %; вопросы-умозаключения (применимо ли это в данном случае) — ниже. Рекомендуем измерять на собственном наборе вопросов заказчика и не ссылаться на чужие цифры.

Можно ли взять готовый продукт базы знаний?

Да, если задача — общие вопросы по документам. Но если нужно говорить на профессиональном языке — выдавать текст по структуре пунктов стандарта, ссылаться на конкретные номера пунктов, готовить документ по отраслевому шаблону, — формат готовых продуктов не подходит, нужна доработка.

Как гарантируется, что данные не покидают внутреннюю сеть?

Модель, векторное хранилище и приложение развёрнуты во внутренней сети заказчика и не обращаются ни к одному публичному адресу. При приёмке можно провести тест с отключением: без внешней сети все функции работают.

Сложно ли обновлять базу знаний?

Добавление, изменение и удаление документов идёт через админ-панель с инкрементальной перестройкой индекса, без остановки сервиса. Изменение структурных полей требует повторного прогона конвейера извлечения — это лучше делать пакетно раз в квартал.