U-BSS усовершенствовала модель нейросети, включив в нее дополнительные конкурентные функции и сохранив при этом минимальные требования к ресурсам сервера. Легкая и при этом качественная нейросеть T5 работает на обычных центральных процессорах, что делает ее использование оптимальным для заказчика.
Суммаризация в речевой аналитике позволяет преобразовывать диалог в более краткую и емкую форму, сохраняющую его основную суть. Этот метод используется для упрощения обработки большого объема информации, ускорения анализа обращений и улучшения контроля качества ответов.
Для обучения нейросетей обычно используются серверы на базе GPU, так как они обладают высокой производительностью и эффективно справляются с обработкой больших данных. Решение реализовано на нейросети T5 и в отличии от других LLM-моделей она работает на обычных CPU (центральный процессор) и не требует подключения GPU-карты. При этом нейросеть T5 практически не уступает в качестве моделям на базе GPU.
Суммаризация также используется как один из этапов автоматической разбивки всей массы диалогов на группы-кластеры с присвоением смыслового названия. А это в свою очередь дает возможность увидеть тематики обращений, которые не входили в изначальный список отчетности контакт-центра. Например, можно заметить увеличение количества заявок о сбоях в системе и оперативно принять меры, или обнаружить негативную обратную связь по новому продукту.
В базе знаний с помощью суммаризации можно делать краткий обзор одной статьи или нескольких. Специалисты больше не тратят время на прочтение материала полностью, что ускоряет бизнес-процессы.
«Суммаризация относится к одной из сложных задач в области обработки естественного языка, поскольку модель должна обрабатывать длинные тексты, а также генерировать связанные запросы на основе вводной информации. Сейчас мы поддерживаем суммаризацию на основе двух базовых технологий: LLAMA-3 и T5. Нейросеть T5 работает на обычных CPU, она более легкая, но при этом обладает достаточно высоким качеством, поэтому является привлекательной для заказчиков. Мы доработали модель T5, добавив конкурентоспособную функцию и сохранив количество используемых мощностей сервера», — прокомментировал директор U-BSS Пулат Халиулин.