OpenAI анонсирует новый инструмент для обнаружения дипфейковых изображений
К сожалению, пока детектор дипфейков OpenAI успешно работает только с изображениями, созданными собственным генеративным искусственным интеллектом. Но компания заявляет, что это только начало. В течение последних лет Интернет заполонили дипфейковые изображения различного характера. Беспокойство вызывает то, что по мере совершенствования генераторов изображений сеть, особенно социальные сети, будет наводнена оскорбительными фейками.
OpenAI заявила, что не питает иллюзий относительно того, что дипфейки не станут большей проблемой по мере совершенствования технологий, поэтому так важно создавать инструменты обнаружения. Новый детектор с помощью искусственного интеллекта предсказывает, изменилось ли изображение по сравнению с его исходным состоянием. Компания заявила, что точность обнаружения дипфейковых изображений, сделанных с помощью DALL-E, составляет более 98%. Тем не менее точность обнаружений падает до 5–10% для изображений, созданных генераторами других компаний.
Прогресс развития этой технологии будет медленным, поэтому OpenAI теперь является частью руководящего комитета Коалиции по происхождению и аутентичности контента (C2PA), которая присоединяется к другим фирмам в продвижении технических стандартов происхождения цифрового контента. Компания Google также недавно вошла в состав совета директоров, присоединившись к Adobe, Intel, Microsoft, OpenAI и другим компаниям.
Стандарт C2PA подразумевает добавление специальной метки к измененному контенту, будь то неподвижное изображение, текст, видео или аудио. Метка должна содержать информацию о том, когда и как было изменено изображение, что может развеять опасения политиков, призывающих к принятию дополнительных законодательных мер в отношении искусственного интеллекта.
«Наши усилия в отношении выявления источника происхождения являются лишь частью более широких усилий отрасли: многие наши коллегиальные исследовательские лаборатории и компании, занимающиеся генеративным искусственным интеллектом, также продвигают исследования в этой области», — заявила компания OpenAI в своем блоге. «Мы высоко оцениваем эти усилия — отрасль должна сотрудничать и делиться идеями, чтобы улучшить наше понимание и продолжать способствовать прозрачности в Интернете».
