OpenAI, Anthropic и Google объединяют усилия для сотрудничества в области безопасности ИИ
Его комментарии прозвучали на фоне того, как ряд лидеров индустрии ИИ забили тревогу по поводу траектории и темпов развития передовых моделей искусственного интеллекта.
«Лучше попытаться работать вместе, уделяя первостепенное внимание безопасности», — заявил Лехейн (на фото) на пресс-конференции в Вашингтоне.
Недавно генеральный директор Anthropic Дарио Амодей опубликовал эссе, в котором призывал индустрию искусственного интеллкта к сотрудничеству в попытке замедлить стремительные темпы развития передовых технологий ИИ, чтобы избежать того, что он назвал «катастрофическими рисками». Призыв Амодея получил поддержку руководителей всех основных конкурентов его компании, включая генерального директора OpenAI Сэма Альтмана, Илона Маска из корпорации SpaceXAI и Демиса Хассабиса из Google. Альтман даже заявил, что OpenAI готова присоединиться к инициативе Anthropic по внедрению сторонних экспертов в свои команды разработчиков для мониторинга безопасности искусственного интеллекта.
На брифинге для СМИ Лехейн сообщил журналистам, что его компания уже несколько недель сотрудничает с Anthropic и Google в рамках инициатив по обеспечению безопасности искусственного интеллекта. Он не уточнил характер их работы, но некоторые эксперты, включая Сэма Альтмана, выразили опасения, что компании рискуют нарушить антимонопольное законодательство США, если их сотрудничество будет воспринято как вредное для конкурентов. В свою очередь, Амодей в своем эссе заявил, что правительство США должно рассмотреть возможность предоставления компаниям исключения, позволяющего наладить сотрудничество в области безопасности без нарушения антимонопольного законодательства. Однако Лехейн сегодня заявил, что, по его мнению, такой шаг не является необходимым.
Некоторые юристы предупреждают, что любая координация действий в области безопасности со стороны лидеров в сфере ИИ может быть истолкована как «ограничение результатов», что будет означать нарушение антимонопольного законодательства в соответствии с Законом Шермана. Этот закон, принятый а 1890 году, призван защитить свободу торговли и конкуренцию, не дать крупным объединениям (трестам) злоупотреблять положением, искусственно завышать цены или ограничивать предложение. Такие же опасения ранее высказывали сенатор от Индианы Джим Бэнкс и сенатор от Калифорнии Адам Шифф, которые предложили «Закон о сотрудничестве в борьбе с враждебными угрозами и рисками для безопасности», позволяющий лабораториям искусственного интеллекта принимать меры по обеспечению безопасности, даже если эти действия противоречат антимонопольному законодательству.
Любые попытки компаний добиться каких-либо исключений, скорее всего, столкнутся с жёстким сопротивлением. В своём сообщении, опубликованном в ответ на эссе Амодея, генеральный директор компании Cohere Inc. Эйдан Гомес заявил, что призывы к обеспечению безопасности выглядят как попытка ведущих лабораторий искусственного интеллекта замаскировать антиконкурентную схему, которая позволила бы им сохранить лидерство в разработке передовых моделей. Он сказал, что это приведёт к тому, что «доминирующие на рынке» лаборатории смогут «определять правила и стандарты безопасности» для всей отрасли.
«В очередной раз используя страх под предлогом защиты общественности, эти олигополии теперь просят разрешения обойти правила конкуренции и диктовать условия всем остальным», — сказал Гомес. «Волк в овечьей шкуре, картель под другим названием».
Возможно, компания Гомеса имеет гораздо меньший вес среди конкурентов ИИ, но потенциально у него самого есть очень влиятельный союзник. Президент США Дональд Трамп последовательно выступает против опасений по поводу безопасности искусственного интеллекта, называя их мистификацией и отвергая призывы к ужесточению регулирования. В сообщении на Truth Social Трамп отверг призыв Амодеи, утверждая, что любое замедление позволит Китаю обогнать США в гонке за развитие ИИ. Его поддерживает главный советник по ИИ Дэвид Сакс, давний инвестор, владеющий долями во многих компаниях, занимающихся искусственным интеллектом. Он неоднократно заявлял, что опасения по поводу того, что искусственный интеллект может представлять экзистенциальную угрозу, преувеличены.
Комментарии Лехейна прозвучали во время брифинга для СМИ в Вашингтоне, где он должен был встретиться с рядом законодателей. Сообщается, что компания OpenAI активно поддерживает два двухпартийных законопроекта, затрагивающих индустрию искусственного интеллекта. Первый — это закон FRONTIER Act, который предусматривает создание федеральной системы обеспечения безопасности искусственного интеллекта и обязывает лаборатории ИИ представлять свои новые модели на проверку независимым экспертам. Второй законопроект предоставит министру торговли право подвергать новые модели ИИ проверкам безопасности до их выпуска.
