Компания U-BSS в сотрудничестве с L2U ранее интегрировала GPT-поиск с RAG в базу знаний InKnowledge. Интеграция позволяет формировать ответы на основе документов, находящихся в надежном хранилище базы знаний. Более того, система способна определять права доступа пользователей, что гарантирует высокий уровень информационной безопасности при использовании RAG.
В обновленной версии системы RAG разработчиками были сделаны значительные улучшения, ориентированные на увеличение эффективности работы искусственного интеллекта и рост качества поиска. Теперь в системе используется другая методика векторизации данных, имеющая увеличенное окно контекста, что позволяет собирать больше сведений для повышения точности поиска.
Еще одним важным новшеством является возможность анализа данных из таблиц, содержащихся в PDF-документах. В предыдущих версиях RAG при поиске информации по таблицам система искала данные только в других текстовых источниках.
Новая версия RAG также включает в себя поддержку внешних нейронных сетей и моделей LLM, таких как Яндекс GPT. Вся обработанная информация преобразуется в формат Markdown, что делает ее более подходящей для использования другими сервисами при работе с таблицами в PDF. Качество разделения файлов на фрагменты (чанки) улучшено благодаря более точной идентификации структуры документов и установке границ между элементами текста (параграфами, заголовками таблиц, подзаголовками разделов и т. п.).
«При разработке новой версии RAG особое внимание было уделено работе с PDF-файлами, так как этот формат часто вызывает трудности при обработке данных методом RAG. Нам удалось эффективно извлекать информацию из таблиц в PDF-документах и передавать её внешним моделям LLM, увеличивая размер обрабатываемых фрагментов (чанков). Это привело к повышению качества поиска и снижению доли неправильных ответов до 6% или более чем в четыре раза по сравнению со старыми версиями. Обновление позволило значительно ускорить получение содержательных ответов в базе знаний», — прокомментировал директор U-BSS Пулат Халиулин.