Компания U-BSS добавила поддержку метода LoRA (Low-Rank Adaptation) в свой инструмент для обучения языковых моделей NLU Suite. Обновление позволяет банкам, контакт-центрам и финтех-компаниям дообучать LLM под собственные задачи в разы быстрее и дешевле, без выделенного ML-инженера и без кластерной GPU-инфраструктуры.
Решение особенно актуально для рынков Центральной Азии, где готовых качественных моделей под узбекский и казахский языки, а также под смешанные диалоги Uz↔Ru пока немного. Отраслевая лексика банков и контакт-центров — клиентские обращения, банковские продукты, скрипты ДБО — требует точечной адаптации, и LoRA закрывает эту задачу при минимальных затратах.
Вместо полного переобучения модели LoRA добавляет к ней компактный адаптер — небольшие матрицы, которые накладываются поверх исходных весов. Обучается только адаптер, поэтому подход позволяет создать узкоспециализированного LLM-эксперта в конкретной предметной области — например, в банковской рознице, ипотеке или обработке претензий — значительно быстрее классического файн-тюнинга и без кластерной инфраструктуры. Решение совместимо с открытыми моделями семейств Llama, Qwen, Mistral и Gemma, в том числе в квантизированных версиях, и запускается на одной GPU-карте — от потребительских RTX с 24 ГБ VRAM до серверных A100/H100.
Обучающие корпусы можно подготовить с нуля внутри NLU Suite с помощью любой мощной LLM, включая локально развёрнутые open-source модели — это принципиально для финансовых организаций с требованиями по локализации данных. Гиперпараметры дообучения остаются по умолчанию или настраиваются вручную.
По внутренним тестам U-BSS на задачах классификации обращений и извлечения сущностей в банковских и контакт-центровых сценариях, дообучение через LoRA повышает качество ответов до 15%. При этом компактные дообученные модели (1 млрд параметров) на целевых запросах обходят необученные крупные модели (27–30 млрд параметров), а разрыв между дообученной 1B и дообученной 9B-моделью составляет всего 5–10%. Для заказчика это означает результат уровня крупных облачных LLM на собственном on-premise сервере, без передачи диалогов во внешние API.
NLU Suite встроен в стек U-BSS наряду с речевыми технологиями (ASR, синтез речи, голосовые роботы) и платформой речевой аналитики, что позволяет строить end-to-end решения — от распознавания речи до диалоговой логики виртуального оператора и пост-аналитики звонков.
Обновление коснулось и пользовательского опыта: упростилась загрузка обучающих и тестовых наборов данных, обновлён интерфейс для сравнения результатов между моделями, появилось автоматическое восстановление задач после сбоев.
«Для банков и контакт-центров Центральной Азии это означает, что специализированную LLM под собственный сценарий — на узбекском, русском или в смешанном режиме — можно получить за недели, а не месяцы, и без внешней зависимости от облачных провайдеров. Стоимость владения снижается кратно, а данные остаются внутри периметра заказчика» — Павел Попов, CEO U-BSS Центральная Азия.
Демо NLU Suite и пилотное внедрение доступны по запросу через форму обратной связи.