Почти невозможно определить текст, который сгенерирован нейросетью
Алгоритмы генерации дипфейков становятся доступны широкому кругу пользователей. Снижается порог входа для использования подобных технологий. Человек даже без навыков программирования может сгенерировать видео, голос или текст. Из-за этого расширяется поле для мошенничества, возрастает количество угроз безопасности данных.
Существуют технологии, которые эффективно борются с различными типами дипфейков. Однако с определением текста, который сгенерирован с помощью искусственного интеллекта, ситуация до сих пор непростая. Татьяна Дешкина отмечает, что качественных наработок распознавания пока нет во всем мире.
При этом российские разработчики развивают сервисы для детекции аудио- и видеодипфейков. Подобные инструменты успешно внедряют все больше компаний, предоставляющих услуги удаленно, говорит эксперт.
«Банкинг — сфера, где сейчас наиболее востребованы сервисы для распознавания лиц и объектов. К нам обратился один из банков СНГ: мужчине удалось вывести деньги, использовав дипфейк. Команда VisionLabs внедрила продукт за день, и в следующие сутки сервис отразил 95 подобных атак», - сказала Татьяна Дешкина, заместитель директора по развитию продуктов VisionLabs.
Способы детекции дипфейков исследуют и в Контуре. В лаборатории ИИ работают над созданием собственных решений для определения дипфейков. Одна из приоритетных задач компании — внедрить решение в сервис коммуникаций Контур.Толк.
