Китай предлагает создать черный список обучающих данных для сервисов генеративного ИИ
Национальный технический комитет по стандартизации информационной безопасности Китая разработал проект основных требований безопасности для сервисов генеративного ИИ и будет собирать общественное мнение до 25 октября. В требованиях излагаются фундаментальные критерии безопасности для сервисов генеративного ИИ, включая безопасность данных, безопасность модели ИИ, меры безопасности и оценки безопасности.
Эти критерии применимы к поставщикам, предлагающим услуги генеративного искусственного интеллекта в Китае. В соответствии с этими критериями поставщики услуг могут проводить оценку безопасности самостоятельно или привлекать для этого третьи стороны. Требования также могут служить ориентиром для соответствующих регулирующих органов при оценке уровня безопасности генеративных сервисов ИИ.
В требованиях предлагается установить черный список источников данных и воздержаться от использования этих источников в учебных целях. Предполагается проводить оценку защищенности данных из различных источников, и если содержание одного источника содержит более 5% незаконной или вредоносной информации, то его следует внести в черный список.
При использовании данных, содержащих личную информацию, поставщики должны получить разрешение и согласие соответствующих лиц или выполнить другие условия для законного использования такой информации. Когда поставщики используют данные, содержащие биометрическую информацию, например, биометрию лица, то они должны получить письменное разрешение и согласие от соответствующих лиц или выполнить другие правовые условия для использования такой биометрической информации.
В процессе обучения данных безопасность создаваемого контента следует рассматривать как один из основных критериев оценки качества генерируемых результатов.
Ранее семь органов власти Китая, включая Администрацию киберпространства Китая, Национальную комиссию по развитию и реформам, Министерство образования, Министерство промышленности и информационных технологий, Министерство общественной безопасности и Национальное управление радио и телевидения, опубликовали временные меры для управление генеративными услугами искусственного интеллекта.
Эти меры предполагают, что поставщики услуг не должны использовать алгоритмы, данные, платформы или другие преимущества для участия в монополистической и недобросовестной конкурентной практике. Эти меры также запрещают причинение вреда физическому и психическому здоровью других лиц или посягательство на имидж, репутацию, честь, права на неприкосновенность частной жизни или права и интересы в отношении личной информации. Эти меры также требуют принятия эффективных мер для повышения прозрачности генеративных услуг искусственного интеллекта и повышения точности и надежности генерируемого контента.
