Генеральный директор Google DeepMind Демис Хассабис призывает к созданию органа по стандартизации ИИ
Издание Axios сообщило, что генеральный директор Google DeepMind Демис Хассабис. провел переговоры с Белым домом, европейскими чиновниками и конкурирующими лабораториями искусственного интеллекта, и предложил, чтобы США возглавили эту инициативу. Хассабис заявил изданию, что надеется запустить орган по стандартизации к концу года.
План состоит в том, чтобы организация разработала критерии для оценки рисков, связанных с ИИ. Эти критерии, как сказал Хассабис, будут оценивать возможности перспективных моделей в таких чувствительных областях, как кибербезопасность и биологические исследования. Он добавил, что оценки также должны выявлять обманные модели ИИ.
«В рамках специальных тестов искусственного интеллекта можно было бы выявлять попытки обойти защитные механизмы или признаки обмана, а также обеспечивать соблюдение передовых методов, таких как цифровая маркировка изображений, созданных ИИ, и генерация удобочитаемых выходных токенов для понимания логики работы модели», — сказал Хассабис.
Стандарты оценки рисков со временем могут устаревать. По словам Хассабиса, предлагаемый орган по надзору за искусственным интеллектом должен решить эту проблему, обновляя свои тесты ежеквартально. Он добавил, что в дальнейшем частоту обновления можно увеличить.
Хассабис утверждает, что надзорный орган в сфере ИИ должен быть создан по образцу Управления по регулированию финансовой отрасли (FINRA). Это организация, которая регулирует деятельность брокеров и других участников финансового сектора в США. FINRA — некоммерческая организация, финансируемая компаниями, которые она регулирует, но действующая под надзором Комиссии по ценным бумагам и биржам США.
Для тестирования продвинутой модели ИИ на предмет рисков требуется значительное количество оборудования. Хассабис предлагает, чтобы частный сектор предоставил основную часть необходимой инфраструктуры и технических специалистов. По словам руководителя DeepMind, работу надзорного органа должен возглавлять совет, состоящий из «независимых ведущих технических экспертов и представителей открытого исходного кода».
По словам Хассабиса, организация по стандартизации могла бы начать свою работу с запуска добровольной программы оценки рисков для лабораторий искусственного интеллекта. Участники могли бы представлять свои модели на проверку за 30 дней до того, как они станут общедоступными. Цель программы заключалась бы в том, чтобы способствовать разработке формального протокола оценки рисков ИИ, который впоследствии мог бы стать обязательным.
«Как только будет доказана эффективность и надежность протокола оценки, быстро последует формализация, а это значит, что для развертывания Frontier Models на рынке США потребуется пройти его проверку», — сказал Хассабис. «Лаборатории также будут сотрудничать с органом по стандартизации для устранения любых критических уязвимостей после выпуска».
Эта инициатива появилась примерно через месяц после того, как аналогичную идею выдвинул генеральный директор Anthropic PBC Дарио Амодей. Руководитель написал эссе, в котором предложил правительству США создать новую систему регулирования ИИ. По словам Амодея, эта система могла бы быть построена по образцу того, как Федеральное управление гражданской авиации осуществляет надзор за авиационным сектором.
