DeepMind предлагает инструмент нанесения водяных знаков на изображения созданные ИИ
Инструмент под названием SynthID встраивает цифровой водяной знак непосредственно в пиксели изображения, что делает его незаметным для человеческого глаза, но обнаруживаемым специальным алгоритмом. SynthID доступен в бета-версии для некоторых пользователей на Vertex AI - платформе Google для создания приложений и моделей искусственного интеллекта. SynthID поддерживает только Imagen - модель преобразования текста в изображение от Google, которая доступна исключительно в Vertex AI.
Ранее Google заявляла, что будет внедрять метаданные для обозначения медиаматериалов, созданных с помощью генеративных моделей искусственного интеллекта. Инструмент SynthID, очевидно, является шагом вперед в этом направлении.
«Хотя генеративный ИИ может раскрыть огромный творческий потенциал, он также представляет новые риски, например, позволяет создателям распространять ложную информацию — как намеренно, так и непреднамеренно», - сообщается в блоге DeepMind. «Способность идентифицировать контент, созданный искусственным интеллектом, имеет решающее значение для предоставления людям знаний о том, когда они взаимодействуют с созданными медиаматериалами, и для предотвращения распространения дезинформации».
DeepMind утверждает, что водяной знак SynthID не пропадает даже после таких модификаций, как добавление к изображениям фильтров, изменение цветов или их сильное сжатие. По словам DeepMind, инструмент использует две модели искусственного интеллекта: одну для создания водяных знаков, а другую для их идентификации. Обе модели были обучены совместно на «разнообразном» наборе изображений.
SynthID не может идентифицировать изображения с водяными знаками со 100% точностью. Но инструмент проводит различие между случаями, когда изображение может содержать водяной знак, и изображением, которое с высокой вероятностью его содержит.
«SynthID не является надежной защитой от экстремальных манипуляций с изображениями, но он обеспечивает многообещающий технический подход, позволяющий людям и организациям ответственно работать с контентом, созданным искусственным интеллектом», - сообщается в блоге DeepMind. «Этот инструмент может развиваться наряду с другими моделями ИИ и методами, работающими не только с изображениями, но также с аудио, видео и текстами».
DeepMind заявляет, что рассматривает возможность предоставления SynthID третьим лицам в ближайшем будущем. Но примут ли эту технологию третьи стороны, особенно компании разрабатывающие генераторы изображений искусственного интеллекта с открытым исходным кодом, — это совсем другой вопрос.
