Microsoft расширяет сервис Azure Foundry новыми инструментами разработки ИИ
Компания представила усовершенствования на мероприятии, посвященном 50-летию Microsoft. Руководители компании также представили новую версию чат-бота Copilot, который теперь имеет больше возможностей персонализации и функцию для выполнения задач в браузере пользователя.
Azure Foundry представляет собой универсальную платформу для создания революционных приложений и агентов на базе искусственного интеллекта. Сервис включает в себя готовые модели искусственного интеллекта, которые устраняют необходимость в обучении пользовательского алгоритма. Существуют также инструменты разработки, которые могут обеспечить дополнительную экономию времени.
В рамках обновления Microsoft расширяет линейку инструментов разработки Azure Foundry предложением под названием «AI Red Teaming Agent». В настоящее время в публичной предварительной версии этот инструмент может автоматически тестировать приложения ИИ на наличие рисков безопасности. Это избавляет команды разработчиков программного обеспечения от необходимости проводить тесты вручную и тем самым ускоряет разработку.
AI Red Teaming Agent работает на основе фреймворка с открытым исходным кодом «PyRIT». Это программное обеспечение, также разработанное Microsoft, может отправлять приложению ИИ большое количество вредоносных запросов и определять, какие из них приводят к вредоносному выводу. Если программа AI Red Teaming Agent обнаруживает слабые места в приложении, то она автоматически превращает свои выводы в отчет.
«Вы можете составить оценочную таблицу методов проверки атак и категорий рисков, которая поможет вам решить, готова ли система к развертыванию», — написал в своем блоге старший менеджер по продуктам Microsoft Минсу Тигпен. «Результаты могут регистрироваться, контролироваться и отслеживаться непосредственно в Azure AI Foundry, обеспечивая соответствие требованиям и постоянное снижение рисков».
Также инструмент дополнен набором новых «агентских оценок». По словам Microsoft, они предоставляют собой метрики, которые можно использовать для измерения рисков, связанных с моделью искусственного интеллекта, и качества ее выходных данных.
Для разработчиков, использующих редактор кода Visual Studio, компания выпускает новое расширение Azure Foundry, предоставляющее возможность выполнять развертывание модели искусственного интеллекта в облаке, не выходя из редактора. Кроме того, стал общедоступным компонент Azure Foundry, который упрощает разработчикам интеграцию в приложение нескольких агентов искусственного интеллекта.
«Когда мы отмечаем программный интерфейс как общедоступный, это означает, что мы полностью уверены в качестве его API поверхности для создания приложений ИИ и в том, что мы сможем поддерживать и обслуживать API в будущем», — пояснил менеджер по продуктам группы Microsoft Шон Генри.
