Сэм Альтман утверждает, что преимущества ИИ оправдывают принятие определенных рисков
В интервью технологическому информационному бюллетеню Politico Decoded Сам Альтман заявил: «Мы считаем, что миру следует смириться с некоторыми негативными последствиями ради преимуществ этой технологии и того, что люди обладают свободой воли».
Он сказал, что между компанией OpenAI и ее конкурентом Anthropic сохраняется принципиальное различие во взглядах на регулирование ИИ, добавив, что здесь есть много точек соприкосновения.
«Я не согласен, но понимаю точку зрения людей, которые считают, что эта технология станет настолько мощной и опасной, что её должна иметь одна лаборатория в Сан-Франциско, чтобы убедиться, что ничего плохого не произойдёт, и таким образом определить, как распределить преимущества», — сказал Альтман.
Он назвал это «совершенно неприемлемым компромиссом», противоречащим «более мягкой регуляторной политике», поддерживаемой OpenAI.
«Я бы не согласился на компромисс, сказав: Мы гарантируем отсутствие крупных взломов, злоупотреблений этой технологией, мошенничества и всех прочих негативных последствий», — сказал Альтман. «Потому что я думаю, что люди сделают гораздо больше хороших вещей, чем плохих».
Заявления Альтмана прозвучали на фоне растущей дискуссии в индустрии искусственного интеллекта о темпах развития и рисках, связанных с постоянно совершенствующимися системами. В сентябре генеральный директор Anthropic Дарио Амодей опубликовал эссе, призывающее отрасль замедлить темпы развития ИИ, чтобы «идти в ногу с передовыми технологиями», — позиция, которую публично поддержал и Альтман. В этом же месяце исследователь Anthropic Джейкоб Коксон подал в отставку, заявив, что люди, разрабатывающие ИИ, считают, что он «может убить нас всех к концу десятилетия».
Компания Anthropic предупредила: несмотря на потенциальные преимущества ИИ, эта технология иногда может действовать вопреки намерениям своих создателей и проникать в системы других компаний. Компания заявила, что продвинутые модели могут демонстрировать «поведение, направленное на самосохранение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» или генерировать результаты, которые могут быть истолкованы как «принудительные, обманные или манипулятивные».
Однако президент США Дональд Трамп в значительной степени отверг призывы к введению новых ограничений, утверждая, что они затруднят конкуренцию американских компаний с китайскими конкурентами. Он неоднократно заявлял, что существующие правоохранительные органы, включая Министерство юстиции, обеспечивают достаточные гарантии и что новые правила не нужны.
