28 стран подписали декларацию о безопасности искусственного интеллекта
Декларация Блетчли, как называется документ, была подписана в ходе проходящего в Лондоне «Cаммита по безопасности ИИ» (AI Safety Summit). Мероприятие является первым из серии запланированных встреч, посвященных рискам ИИ и методам их устранения. Второй саммит по этой теме планируется провести в Южной Корее через шесть месяцев, а еще одно аналогичное мероприятие состоится во Франции примерно через год.
Декларация представляет собой документ объемом около 1300 слов, описывающий некоторые риски, которые могут представлять передовые модели ИИ, и потенциальные способы их устранения. 28 стран, поддержавших декларацию, отмечают, что искусственный интеллект уже сегодня имеет широкое применение, но, вероятно, станет еще более распространен в будущем. «Это уникальный момент, чтобы действовать, а также чтобы подтвердить необходимость безопасного развития искусственного интеллекта», заявили подписавшие документ стороны.
Далее в декларации подчеркивается ряд связанных с ИИ рисков, которые считаются особенно актуальными. Одним из них является потенциал моделей машинного обучения, которые можно использовать для создания вводящего в заблуждение контента. Подписавшие стороны также подчеркивают, что «особые риски безопасности возникают на "границе" ИИ, понимаемой как высокоэффективные модели ИИ общего назначения, включая базовые модели, которые могут выполнять широкий спектр задач».
Страны-участницы будут уделять приоритетное внимание «выявлению рисков безопасности ИИ, формированию общего научного и основанного на фактических данных понимания этих рисков и поддержанию этого понимания». Они также будут стремиться разработать соответствующую политику для решения связанных с ИИ проблем. Поддержавшие декларацию страны заявили также, что планируют работать вместе над устранением рисков безопасности ИИ. В рамках инициативы они намерены расширить существующее сотрудничество в области безопасности ИИ, а также увеличить количество стран-участниц.
В декларации также рассматривается роль частных компаний в обеспечении безопасного использования технологии ИИ. Речь в особенности идет о тех компаниях, которые разрабатывают передовые модели искусственного интеллекта. «Мы подтверждаем, что, хотя безопасность необходимо учитывать на протяжении всего жизненного цикла ИИ, субъекты, разрабатывающие передовые возможности ИИ, в частности те системы ИИ, которые являются необычайно мощными и потенциально вредными, несут особенно серьезную ответственность за обеспечение безопасности этих систем», говорится в декларации.
«Декларация Блетчли на этой неделе представляет собой важные шаги вперед к обеспечению безопасности ИИ в действительно глобальном масштабе», – сказал Сиан Джон, главный технический директор консалтинговой компании по безопасности NCC Group. «Мы особенно рады видеть обязательство подписантов гарантировать, что Саммит по безопасности ИИ станет не просто разовым мероприятием, но и что участники снова соберутся в следующем году в Южной Корее и Франции. При этом будет важно установить четкие и измеримые цели, по которым можно будет оценивать прогресс».
