OpenAI теперь будет добавлять метки к изображениям, созданным ИИ
OpenAI сообщила, что будет использовать стандарт, известный как C2PA. Это технический стандарт, который позволяет издателям контента добавлять к нему метки метаданных для проверки его происхождения. Любой графический контент, созданный генеративным искусственным интеллектом DALL-E 3 или чат-ботом ChatGPT, использующим генератор изображений, теперь будет помечен этими метаданными.
Компания заявила, что метки станут доступны всем пользователям на мобильных устройствах с 12 февраля.
Такие сайты, как Content Credentials Verify, можно использовать для просмотра метаданных, прикрепленных к изображениям, созданным OpenAI. Через раздел сайта «Используемый инструмент искусственного интеллекта» можно подтвердить, что изображения были созданы при помощи DALL-E.
«Однако метаданные не являются идеальным решением для проверки или обнаружения контента, созданного искусственным интеллектом. Например, большинство социальных сетей сегодня удаляют метаданные из загруженных изображений. Или создание снимка экрана, также может удалить метаданные», — заявили в компании. «Поэтому изображение, в котором отсутствуют эти метаданные, может быть, а может и не быть создано с помощью ChatGPT или нашего API».
Метаданные также могут быть удалены или отредактированы пользователями на их собственных компьютерах или мобильных устройствах. Но компания заявила, что это не должно быть причиной избегать метаданных как потенциального элемента выявления распространения контента, созданного искусственным интеллектом в Интернете.
«Мы считаем, что принятие этих методов для установления происхождения и поощрение пользователей к распознаванию этих сигналов является ключом к повышению надежности цифровой информации», — добавили в OpenAI.
Рост количества изображений, созданных с помощью искусственного интеллекта, оказал влияние как на создателей, так и на то, как люди смотрят на контент в Интернете. Яркие примеры включают создание «дипфейков» или реалистичных изображений реальных людей или событий, которые могут сбить с толку или ввести в заблуждение.
Помечая свои изображения метаданными C2PA, OpenAI и другие компании смогут с большей легкостью обнаруживать и определять контент, как созданный искусственным интеллектом. Это должно остановить распространение дипфейков и помочь специалистам в проверке фактов.
Маркировка метаданных отличается от другого типа маркировки контента, называемого «водяными знаками», который встраивает в изображение невидимый цифровой код. Исследовательская лаборатория ИИ Google DeepMind создала инструмент SynthID, который ставит водяные знаки на изображения, созданные с помощью модели генератора изображений Google Imagen AI. В отличие от метаданных, водяные знаки удалить гораздо сложнее.
