Axenix разработала LLM-платформу BotAx для создания чат-ботов
Платформа BotAx построена на RAG-архитектуре (Retrieval-Augmented Generation – генерация с дополнительным поиском). При получении определенного запроса чат-бот подбирает релевантные данные в собственных базах знаний. Затем на этой основе создает запрос для LLM, позволяющий обогатить ответ дополнительной информацией из сторонних баз данных, сделать его более корректным и полным. RAG также позволяет повысить удовлетворенность пользователей от процесса общения, подстраиваясь под стиль коммуникации и предлагая более релевантные ответы.
Платформа BotAx дает возможность создавать и использовать клиентам собственные специфичные настраиваемые чат-боты под широкий спектр задач – от HR и маркетинговой аналитики до обработки нормативной документации, формирования интерактивной базы знаний и генерации текста. При необходимости специалисты Axenix помогают грамотно интегрировать его с наиболее подходящей базой данных компании – реляционной, документоориентированной, графовой и т.д.
Существует два основных сценария использования платформы BotAx:
- выбор и кастомизация чат-бота из существующего набора, сегодня на платформе представлены уже около десяти моделей;
- создание собственного чат-бота под задачи каждой конкретной компании.
В будущем станет доступен еще один сценарий No-code – создание чат-бота из предложенных на платформе компонентов без необходимости программирования.
«Практика показывает, что open source генеративные модели, обученные на открытых данных интернета, содержат мало специфичных знаний по узким или специализированным направлениям. Они почти ничего не знают о конкретной компании. Именно поэтому RAG архитектура — это решение проблемы: объединение модели, обученной на общих данных, с базой знаний конкретной компании и внешними источниками. Команда Axenix, собранная из экспертов в области NLP, языковых моделей, генеративного ИИ, работает над развитием сервиса уже около полугода. Мы проводим тестовые внедрения, учимся работать с разными типами данных, таким образом постоянно совершенствуем продукт», – комментирует Василий Крикунов, эксперт в области ИИ Axenix.
По его словам, еще одно преимущество платформы BotAx в том, что ее можно использовать on-premise в защищенном закрытом контуре предприятия с эффективностью, сравнимой с публичными генеративными моделями, для решения специализированных задач.
На BotAx уже созданы: бизнес-ассистент консультанта; ассистент металлурга, предоставляющий информацию об основных технологических процессах и нормативах на сталелитейном производстве; чат-бот для сопровождения базы знаний по цепочкам поставок; LLM общего назначения для безопасного решения широкого спектра задач внутри компании, а также чат-бот для Self-Service BI.
«Наша главная задача – предоставить в перспективе заказчикам no-code конструктор чат-ботов, который позволит им правильно организовывать работу с языковыми моделями, самостоятельно выбирать нужные объекты для создания решения под любую задачу. Благодаря чат-ботам компании могут увеличить производительность персонала, качественно трансформировать ИТ-ландшафт и организационную структуру», – добавляет Василий Крикунов.
По его словам, интерес к языковым моделям сегодня проявляют промышленные предприятия, финансовые организации, ритейл-компании и многие другие.
