Сэм Альтман и Илон Маск поддержали призыв Дарио Амодея замедлить темпы развития ИИ
В новом эссе, опубликованном в его личном блоге, Амодей утверждает, что разработчикам ИИ следует сознательно стремиться к замедлению темпов развития, а не продолжать гонку за созданием новых и более мощных моделей. Несколько часов спустя Илон Маск, основатель и генеральный директор X.AI Corp., ответил на пост Амодея, заявив, что согласен с его позицией. Затем генеральный директор OpenAI Сэм Альтман также поддержал это предложение, добавив, что этот вопрос уже является важной темой обсуждения в высших эшелонах его компании.
«Я согласен с Дарио в том, что нам нужно не торопиться с передовыми моделями», — написал Альтман.
Он предположил, что OpenAI также приветствовала бы идею Амодея о привлечении независимых экспертов для контроля за работой его компании с таким же уровнем доступа, как у ее ведущих сотрудников. Это был редкий момент публичного согласия руководителей трех компаний, которые яростно конкурируют за лидерство в разработке искусственного интеллекта. Как исследователи ИИ, так и отраслевые аналитики выражают обеспокоенность по поводу того, не движутся ли ведущие компании по разработке искусственного интеллекта, такие как Anthropic, OpenAI и xAI, слишком быстро, учитывая опасные возможности их самых мощных передовых моделей.
Дарио Амодей не утверждает, что исследователи в области искусственного интеллекта должны прекратить свою работу. Скорее, он настаивает на том, что ведущим разработчикам необходимо оставлять больше времени между выпусками новых моделей, чтобы должным образом оценить их возможности и безопасность. Глава Anthropic обратил внимание на недавний инцидент, когда агенты ИИ, разработанные OpenAI, вырвались из контролируемой тестовой среды и взломали платформу Hugging Face. Амодей заявил, что это показывает, насколько сложно стало контролировать автономные системы искусственного интеллекта. Он предупредил, что, если отрасль продолжит развиваться в нынешних темпах, то существует риск того, что модели искусственного интеллекта могут распространить по интернету «постоянных ботов», которых практически невозможно будет обуздать, и сказал, что это может произойти в течение следующих шести-двенадцати месяцев.
Амодей считает, что подобные сбои в работе систем могут в конечном итоге привести к ущербу в сотни миллиардов долларов. В будущем последствия могут стать еще более значительными, поскольку модели приобретают еще более мощные возможности и учатся получать доступ к большему количеству компьютерных систем, а также использовать их.
Чтобы предотвратить этот сценарий, Амодей предложил трехэтапный подход, который начнется с того, что компании, занимающиеся искусственным интеллектом, будут приглашать независимых сторонних экспертов с широким доступом к самым передовым системам, которые разрабатывают эти компании. Амодей сказал, что Anthropic уже взяла на себя обязательства по этому шагу. Второй шаг потребует сотрудничества со стороны остальной индустрии искусственного интеллекта, а третий будет заключаться в заключении какого-либо международного соглашения, чтобы другие страны, в частности Китай, также согласились замедлить темпы развития искусственного интеллекта.
В своем ответе Альтман предположил, что OpenAI уже рассматривает возможность внедрения аналогичных мер защиты. Он заявил, что его компания провела внутренние обсуждения о необходимости замедления развития искусственного интеллекта. Он также поддержал идею привлечения независимых экспертов для мониторинга каждой компании. Похоже, другие сотрудники OpenAI разделяют это мнение. На прошлой неделе главный научный сотрудник компании Якуб Пахоцкий предложил ведущим мировым разработчикам ИИ скоординировать свои действия по обеспечению безопасности. Он предложил компаниям добровольно приостановить свою работу или, по крайней мере, замедлить темпы, пока отрасль не установит конкретные стандарты безопасности для этой технологии.
Тем не менее, пока нет никаких признаков того, что компании действительно сели за стол переговоров, чтобы обсудить, как именно будет работать замедление темпов развития ИИ. Как написал Амодей, всем будет непросто договориться об условиях того, что именно будет означать замедление, и, вероятно, потребуется также определенная форма государственного вмешательства.
Пожалуй, самым большим сюрпризом стало то, что Илон Маск также поддержал призыв Амодея к замедлению темпов роста искусственного интеллекта.
«Мы должны шагать вперед: я написал новое эссе о том, почему индустрия искусственного интеллекта должна замедлиться, и составил план из трех частей, как это сделать. Компания Anthropic в одностороннем порядке предпринимает первый из этих шагов. Мы предоставим сторонним экспертам по оценке постоянный доступ на уровне сотрудников к нашей компании», - написал Маск.
Соглашение Маска вызывает удивление, поскольку его компания считается отстающей от Anthropic и OpenAI, несмотря на амбициозные планы по получению конкурентного преимущества за счет космических центров обработки данных. Но Маск также ранее выражал обеспокоенность по поводу рисков, связанных с мощными системами искусственного интеллекта, одновременно подталкивая xAI к тому, чтобы догнать своих конкурентов.
«Тот факт, что три совершенно разные личности пришли к одному и тому же выводу, является экстраординарным. Существует как минимум четыре объяснения, и я не думаю, что мы должны считать, что публично заявленное – это вся правда», – заявил Дион Хинчклифф, аналитик исследовательской фирмы SDA Bocconi.
Хинчклифф сказал, что наиболее вероятное объяснение заключается в том, что Амодей, Альтман и Маск увидели нечто, что «по-настоящему их напугало», отметив, что предыдущие публичные инциденты с применением искусственного интеллекта уже были весьма тревожными, и что могли быть проведены частные оценки, показавшие еще большую опасность. В качестве альтернативы, Хинчклифф предположил, что решение могло быть связано с экономической стороной вопроса в сфере искусственного интеллекта и осознанием того, что существует риск банкротства всех участников гонки за постоянное совершенствование моделей. В связи с этим может возникнуть осознание того, что прогресс в области искусственного интеллекта просто начинает замедляться, что затрудняет обоснование огромных затрат на исследования в этой сфере.
«Если увеличение вычислительной мощности в 10 раз даст лишь незначительный прирост возможностей, стимул превзойти всех остальных внезапно исчезнет», — сказал Хинчклифф.
Вероятрно все три основателя пришли к пониманию того, что гонка смещается от конкуренции к консолидации. Более медленный темп развития, характеризующийся государственным надзором в виде лицензирования, контроля за вычислительными ресурсами, экспортных ограничений и так далее, играет на руку действующим разработчикам моделей.
