OpenAI внедряет в API новые функции оптимизации ИИ
Большинство дополнений предназначены для интерфейса прикладного программирования тонкой настройки, который компания запустила в августе прошлого года. Интерфейс прикладного программирования, или API, позволяет заказчикам предоставлять языковым моделям OpenAI дополнительные данные, не включенные во встроенную базу знаний. Например, хозяин розничного магазина может загрузить в GPT-4 информацию о своих товарах, а затем использовать эту модель для ответа на запросы клиентов о продуктах.
Точная настройка большой языковой модели с использованием внешних данных –сложный процесс, чреватый техническими ошибками. В случае возникновения неисправности языковая модель может не суметь должным образом обработать предоставленную информацию, что ограничит её полезность. Первое новое усовершенствование, которое OpenAI представила сегодня для своего API тонкой настройки, предназначено для решения этой проблемы.
Проект тонкой настройки ИИ обычно делится на этапы, называемые эпохами. На каждом таком этапе модель по крайней мере один раз анализирует набор данных, с помощью которого она настраивается. Сбои часто возникают не на первом этапе проекта тонкой настройки, а скорее при последующих обучениях.
Используя улучшенный API-интерфейс тонкой настройки, разработчики теперь могут сохранять копию модели ИИ после каждой эпохи обучения. Если в пятой эпохе возникнет неисправность, проект можно перезапустить с четвертой эпохи. Это избавляет от необходимости начинать все с нуля, что, в свою очередь, сокращает количество времени и усилий, необходимых для исправления ошибок тонкой настройки.
Эта функция внедряется вместе с новым разделом интерфейса, известным как Playground UI. Согласно OpenAI, разработчики теперь могут использовать ее для сравнения различных версий модели тонкой настройки. Команда разработчиков программного обеспечения может, например, проверить, как модель отвечает на вопрос после пятой эпохи, а затем ввести тот же вопрос двумя эпохами позже, чтобы определить, улучшилась ли точность ответа.
OpenAI также совершенствует свою существующую панель управления тонкой настройки искусственного интеллекта. По словам компании, разработчикам теперь будет проще настраивать гиперпараметры моделей. Это настройки конфигурации, которые влияют на точность ответов большой языковой модели. Обновленная панель управления также предоставляет доступ к более подробным техническим данным о сеансах тонкой настройки. В качестве дополнительной меры OpenAI добавила возможность передавать эти данные в сторонние инструменты для разработки искусственного интеллекта. Первая интеграция внедряется для Weights and Biases - платформы для создания моделей, разработанной хорошо финансируемым стартапом с одноименным названием.
Для предприятий, которым требуются более продвинутые функции оптимизации моделей, OpenAI представила новое предложение под названием «вспомогательная точная настройка». Оно позволяет расширить возможности модели, снабдив ее дополнительными гиперпараметрами. Клиенты также могут оптимизировать свои большие языковые модели с помощью метода PEFT (англ. Parameter-Efficient Fine-Tuning), который позволяет точно настраивать только определенные части модели, а не всю ее кодовую базу.
