Оркестрация нескольких LLM в одном сервисе: практический подход на Botman.one

В последние месяцы стало очевидно то, что одна большая языковая модель -  мощный, но не универсальный инструмент.

В реальных бизнес-процессах задачи редко бывают линейными. Они требуют итераций, проверки, уточнений, сопоставления нормативных требований и внутренней политики компании.

Поэтому мы создали на low-code платформе Botman.one возможность делать сервисы, в которых в рамках одного сценария работают сразу несколько LLM - каждая со своей ролью.

Почему одной модели часто недостаточно

Типичная прикладная задача (например, подготовка договора или анализ кадровых рисков) состоит из нескольких этапов:

  1. Создание базового текста или структуры.

  2. Учет отраслевых, налоговых, регуляторных требований.

  3. Проверка на логические противоречия.

  4. Финальное редактирование и унификация.

Одна модель может выполнить всё это последовательно, но без разделения ролей она склонна «плыть»: терять контекст, противоречить самой себе, пропускать детали.

Когда же процесс декомпозирован, а модели распределены по функциям, результат получается более устойчивым и предсказуемым.


Пример: подготовка внешнеторгового договора поставки товаров

В демонстрационном сценарии используются три разные модели:

  • DeepSeek — готовит первичный драфт договора поставки.

  • GigaChat — формирует рекомендации с учетом требований валютного контроля, налогового и таможенного законодательства.

  • Grok — анализирует оба результата, устраняет противоречия и формирует итоговую редакцию.

Ссылка на видео с демонстрацией создания такого сервиса и его работы: ссылка.

Каждая модель работает в своей «зоне ответственности»:

  • первая — создает структурированый  проект договора сгласно заданному промпту;

  • вторая — анализирует применяемые к отношениям сторон по такому договору нормативные требования;

  • третья —  осуществляет проверку проекта договора на соответствие рекомендациям, выработанным второй нейросетью.

Такой подход ближе к реальной работе юридической команды: младший юрист готовит проект, профильный специалист по ВЭД вносит замечания, руководитель практики финализирует документ.

На платформе Botman.one эта логика реализуется через последовательные блоки сценария без программирования, с настройкой промптов и маршрутизации данных.


В чем практические плюсы мульти-LLM подхода

1. Разделение когнитивных ролей

Модели специализируются. Это снижает нагрузку на контекст и уменьшает вероятность логических сбоев.

2. Повышение качества через «внутренний аудит»

Третья модель, выступающая в роли ревизора, выявляет:

  • противоречия,

  • недосказанности,

  • риски формулировок,

  • нестыковки терминологии.

Это особенно ценно для юридических и регуляторных задач.

3. Гибкость выбора сильных сторон разных моделей

У разных LLM разные преимущества:

  • одни лучше структурируют сложные документы,

  • другие аккуратнее работают с регуляторикой,

  • третьи сильнее в логической проверке и критическом анализе.

Оркестрация позволяет использовать их сильные стороны осознанно.

4. Снижение операционных рисков

Если одна модель допускает неточность, вероятность того, что следующая её заметит, существенно выше. Это добавляет дополнительный уровень контроля.


Практические сценарии для юристов

1. Комплаенс-аудит внутренних документов

Сценарий:

  1. Модель №1 анализирует локальный нормативный акт.

  2. Модель №2 сопоставляет его с актуальными требованиями законодательства.

  3. Модель №3 формирует отчет о рисках и приоритетах исправления.

Результат — перечень правовых рисков, отсротированных по степени опасности и приоритетности доработки.


2. Подготовка процессуальной позиции

  1. Первая модель формирует правовую позицию на основе фабулы дела и загруженныхв нее документов.

  2. Вторая ищет слабые места и возможные возражения оппонента.

  3. Третья усиливает аргументацию с учетом выявленных рисков.

Это позволяет моделировать судебную дискуссию еще до подачи документов.


3. Due Diligence контрагента

  • Модель 1 — структурирует полученные для проверки документы.

  • Модель 2 — выделяет аномалии и рисковые зоны.

  • Модель 3 — формирует финальное заключение для руководства.


Практические сценарии для HR

1. Подбор персонала

  1. Первая модель анализирует резюме и формирует краткое досье.

  2. Вторая сопоставляет кандидата с профилем должности и корпоративными компетенциями.

  3. Третья генерирует вопросы для интервью и рисковые гипотезы.

  4. Четвертая - может проверять ответы соискателей (проверять их знания).

Это превращает поток резюме в управляемую аналитическую воронку.


2. Разработка профилей должностей

  • Модель 1 — описывает функционал.

  • Модель 2 — проверяет соответствие трудовому законодательству.

  • Модель 3 — адаптирует описание под рынок и требования компании.


3. Анализ причин текучести

  1. Первая модель агрегирует ответы exit-интервью.

  2. Вторая выделяет повторяющиеся паттерны.

  3. Третья формирует управленческие рекомендации.


Почему low-code здесь особенно важен

Оркестрация нескольких LLM с помощью low-code платформы позволяет быстро и легко создавать такие сервисы и вносить в них корректировки, кгда это требуется.

Без low-code это бы превратилось в длительную и дорогостоящую разработку.

С low-code платформой сздать полнценный работающий сервис может бизнес-аналитик или юрист, понимающий процесс, но не пишущий код.


Главное: это не про количество моделей

Ценность не в том, чтобы подключить пять LLM вместо одной.

Ценность  в архитектуре процесса:

  • декомпозиция задачи,

  • четкое распределение ролей,

  • наличие независимой проверки,

  • управляемая итеративность.

Такой подход ближе к реальной работе экспертной команды, чем к «магии одного запроса».

И по мере усложнения бизнес-процессов именно оркестрация моделей становится более устойчивой стратегией, чем ставка на одну универсальную нейросеть.

Если в задаче есть логика, этапность и необходимость проверки, значит ее можно разложить на роли и построить сервис, в котором несколько LLM работают как слаженная команда.

 

 

Читайте наш блог: ссылка

Проходите бесплатный курс по legaltech: ссылка

Пользуйтесь базой знаний legaltech: ссылка

Заходите в Телеграм-группу, где мы обсуждаем технологии: ссылка