Cohere представляет корпоративную платформу агентного ИИ North 2
С помощью новой платформы North 2 компания Cohere пытается найти компромисс, на который обычно идут предприятия при развертывании ИИ-агентов, отказываясь от одного из трех аспектов - безопасности, функциональности или контроля затрат, чтобы получить два других. Система оркестрации самостоятельно выполняет многоэтапные задачи и привлекает человека только на тех этапах, которые требуют утверждения. Агенты, созданные на основе простого запроса, теперь могут использоваться в масштабах всей компании, что избавляет команды от необходимости создавать один и тот же рабочий процесс дважды. Каждый агент сохраняет память между сеансами. Cohere также добавила функцию навыков для упаковки логики, к которой агенты обращаются многократно. Документы и другие ресурсы, к которым должен иметь доступ каждый агент, хранятся в общих библиотеках.
На основе запроса, полученного на естественном языке, платформа North 2 формирует презентацию, дашборд или легковесное приложение, прототипы которого пользователи могут создавать прямо в окне чата. Для повторяющихся процессов предусмотрены готовые шаблоны и конструктор рабочих процессов с функцией перетаскивания, который отображает результаты в режиме реального времени. Библиотека коннекторов теперь охватывает такие приложения как Slack, GitHub, а также SharePoint и OneDrive от Microsoft Corp. Cohere также планирует создать коннекторы для поставщиков финансовых данных, среди которых PitchBook Data Inc., S&P Global Inc. и FactSet Research Systems Inc.
Новые средства контроля расходов находятся в консоли управления платформой под названием North Admin. Теперь она отслеживает использование токенов вплоть до уровня отдельного пользователя и агента. Администраторы могут определять уровни потребления для пользователей и групп на основе количества запросов и токенов, а также ограничивать их использование в масштабах всей компании. Можно настроить оповещения, которые будут предупреждать команды о достижении лимита. Поскольку North 2 не зависит от модели, администратор может назначить каждой команде модели, которые клиент использует за пределами Cohere.
Чтобы снизить затраты на работу North компания Cohere рассчитывает на сотрудничество с корпорацией Nvidia, По словам представителей Cohere, модели компании генерируют больше токенов в секунду на графических процессорах Nvidia Blackwell и Hopper.
«Это помогает North 2 выдавать больше токенов за меньшие деньги», - сказал Кари Бриски, вице-президент Nvidia по генеративному искусственному интеллекту.
В консоли North Admin также реализованы средства контроля безопасности, позволяющие устанавливать ограничения для отдельных агентов. Проверка охватывает персональные данные в запросах и ответах, а также попытки внедрения запросов. Политики автономии ограничивают каждого агента только разрешенными действиями. North по-прежнему работает локально или в собственном виртуальном частном облаке клиента, включая полностью изолированные от внешнего мира установки для организаций, которые не допускают внешних подключений.
Подразделение Bell Cyber компании Bell Canada использует North в своих собственных операциях по обеспечению безопасности.
Джавед Ахмад, главный технический директор и директор по искусственному интеллекту Bell Cyber, заявил: «North позволяет подразделению запускать агентный ИИ с учетом требований к контролю и суверенитету, с самого начала предъявляемых клиентами Bell Cyber».
Среди других пользователей платформы — южнокорейская компания LG CNS Co. Ltd., предоставляющая услуги в сфере информационных технологий, которая использует North внутри компании и предоставляет доступ к ней клиентам по всей стране.
Компания Radical Ventures, один из первых инвесторов Cohere, создала на базе North систему автоматизации, которая готовит брифинг для команд перед совещанием. По словам партнера компании Парашвила Пателя, раньше на сбор базовой информации уходило несколько часов.
Выход North 2 состоялся менее чем через три недели после того, как компания Cohere подписала соглашение о слиянии с немецким разработчиком искусственного интеллекта Aleph Alpha GmbH, в рамках которого объединенная компания сохранит название Cohere.
