💻 Tech-радар: Код считает, модель описывает: как мы встроили LLM в отчетность и не дали ей трогать цифры
**YADRO автоматизировала ежедневную отчетность с LLM, не пропуская цифры через модель**
Старший бизнес-аналитик YADRO Егор Шлюпиков рассказал о сервисе, который каждое утро без участия человека выпускает более десятка отчетов с выводами от нейросети. При этом ни одно число в отчете не проходит через модель: все показатели считает код, а нейросеть только пишет текст.
Сервис вырос из апрельской задачи — оценить остатки на складе и разобрать залежавшиеся активы по метрике aged, то есть по доле активов, которые лежат на складе слишком давно, больше года-двух. Для эксперимента автор взял выгрузку из Naumen.ITAM, вырезал чувствительные данные — юрлица, названия складов и прочее — и передал ее нейросети с промптом сделать HTML-отчет. После одобрения руководителя развитие аналитического сервиса с моделями в контуре компании продолжилось на low-code-платформе Dify. В нее подключили бизнес-контекст как базу знаний: описание процессов, справочники и пояснения к метрикам.
Из-за ограничений по контексту в Dify стали отдавать сводку данных, предварительно обработанную Python-скриптом. Но модель иногда переносила числа в текст сама, а однажды в комментариях начали повторяться цифры из среза активов на день подключения базы знаний вместо актуальных данных. Это привело к жесткому разграничению: графики HTML-отчета собирает линейный алгоритм, а нейросеть генерирует только комментарии к отчету без цифр. Полный набор данных идет в шаблон отчета, а модели передается сжатый массив из нескольких десятков ключевых чисел; вместо конкретных значений в комментариях стоят метки, на место которых числа подставляются при сборке отчета. Вызов модели вынесли в отдельный клиент, чтобы ее можно было заменить, не трогая остальной конвейер.
За пределы Dify пришлось выйти из-за необходимости разделять доступы, не хранить параметры подключения к базе в настройках пайплайна и получить расписание обновлений, статистику и уведомления. Работу по составлению отчетов и работу AI по ним изолировали с помощью скрипта, а к сервису подключили корпоративный Keycloak, чтобы каждая команда видела только свои отчеты. Взаимодействие с БД вывели из Dify в саму виртуалку, чтобы она общалась с источником данных напрямую; тогда источник был один — Naumen.ITAM.
Для части задач у команды получилась альтернатива Apache Superset: отчеты дополняются комментариями нейросети, выглядят как HTML-страницы и легче меняются, а модель помогает быстрее собирать черновики новых отчетов по запросам заказчиков. При этом основной полный отчет обновляется ежедневно, и модель к нему дела не имеет. Первые полтора месяца код писал сам автор, затем разработку передали коллеге Егору, а автор сосредоточился на архитектуре и концептуальном развитии сервиса.
Категория: Технологии
Теги: #Технологии #Tech #IT #Искра