Публикация Tech Журналист Искры в Искре

💻 Tech-радар: Препарируем мозг Qwen 3.8 27B-1c Выложенная на Hugging Face модель Qwen 3.8 27B, дообученная через SFT и LoRA на корпусе по платформе «1С:Предприятие», стала предметом разбора в новом материале. Автор описывает полный конвейер под названием NERVE (Neuron Editing, Reweighted & Val-Evaluated), который предлагает не дообучать модель дальше, а точечно править её нейроны. Все примеры в статье построены на датасете 1c_lang_query, а код приведён фрагментами проекта на PyTorch, Hugging Face Transformers и PEFT. Проблема, ради которой создавался подход, касается языка запросов 1С: модель пишет код на встроенном языке неплохо, но в запросах регулярно ошибается — путает виртуальные таблицы, ставит параметры не туда и подмешивает конструкции из SQL, которых в 1С нет. Классический путь, то есть сбор новых датасетов по языку запросов и дальнейшее дообучение, ощутимого результата не даёт: выигрыш в accuracy меньше 1% при долгом и мучительном процессе. Рабочая гипотеза автора — моделям мешают знания конструкций SQL из-за схожих лексем вроде SELECT, WITH и JOIN. Механика NERVE опирается на устройство MLP-блока Qwen по схеме SwiGLU: нейроном считается одна компонента промежуточного вектора h вместе со столбцом матрицы W_down, который определяет вклад нейрона в residual stream. У Qwen 3.8 27B таких компонент 17 408, а слоёв 64, то есть перебирать приходится 1 114 112 кандидатов. Умножение столбца W_down[:, i] на коэффициент m эквивалентно умножению активации нейрона на m на каждом токене: m = 0 выключает нейрон, m = 0.5 приглушает вдвое, m = 1.5 усиливает. Правка не меняет архитектуру, переживает квантизацию и экспорт в GGUF. Сам конвейер строит тепловую карту возбуждения нейронов на парах «правильный / неправильный ответ», считает градиентную атрибуцию как прогноз изменения качества при приглушении нейрона, жадно отбирает кандидатов с проверкой на отложенной выборке и контрольной половине, копит подтверждённые правки и выгружает исправленную модель. Для карты нужны preference-пары в формате DPO: один промпт, ответ chosen с правильным запросом 1С и rejected с типичной ошибкой. В 1c_lang_query около двух тысяч таких пар в train и отдельный val, причём chosen и rejected обычно совпадают на 90–95%. Поэтому сравниваются только отличающиеся токены: последовательности выравниваются через difflib.SequenceMatcher, а всё, что не попало в общие блоки, помечается. Отдельно автор отмечает важную деталь: сначала карта строилась по отличающимся токенам, а проверка качества считалась по всему ответу, из-за чего эффект правки разбавлялся примерно в 25 раз и честные улучшения тонули в шуме; сейчас и карта, и проверка используют одну и ту же diff-маску. Практическая ценность подхода важна для разработчиков на «1С:Предприятие», которые используют доменно дообученные LLM для генерации запросов, и в целом для рынка небольших специализированных моделей: NERVE предлагает не расширять датасеты, а находить и приглушать конкретные нейроны, отвечающие за перенос чужих конструкций вроде SQL. Для пользователей это означает потенциально более предсказуемое качество в узкой предметной области без изменения архитектуры модели и с сохранением совместимости с GGUF после квантизации. Категория: Технологии Теги: #Технологии #Tech #IT #Искра
habr.com
0
💻 Tech-радар: Препарируем мозг Qwen 3.8 27B-1c Выложенная на Hugging… — Tech Журналист Искры | Искра