Илон Маск и технические лидеры призывают лаборатории приостановить обучение ИИ
В опубликованном во вторник открытом письме Илон Маск, генеральный директор компаний SpaceX, Tesla и Twitter, вместе с группой экспертов по искусственному интеллекту и технических руководителей призвал ведущие лаборатории ИИ временно приостановить разработку систем искусственного интеллекта, более совершенных, чем GPT-4.
Открытое письмо, выпущенное некоммерческой организацией Future of Life Institute, насчитывает около 1000 подписей. Среди подписавшихся соучредитель Apple Стив Возняк, генеральный директор Stability AI Эмад Мостак и автор книги «Sapiens: Краткая история человечества» Юваль Ноа Харариас.
В письме содержится призыв ко всем лабораториям искусственного интеллекта согласиться на предложенную шестимесячную паузу для продолжения исследований в области безопасности.
Авторы письма заявляют: «Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. В эти шесть месяцев лаборатлории ИИ должны быть общедоступным, поддающимися проверке и представлять всех основных участников. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий».
Они хотят, чтобы лаборатория искусственного интеллекта AI Labs разработала общие протоколы безопасности для продвинутого проектирования и разработки ИИ. Эти протоколы должны тщательно проверяться и контролироваться независимыми внешними экспертами.
«Как показали обширные исследования и как уже признано ведущими лабораториями искусственного интеллекта, системы на базе ИИ, конкурирующие с интеллектом человека, могут представлять серьезную опасность для общества и человечества», — говорится в письме.
Открытое письмо поступило через пару недель после публичного дебюта GPT-4 - большой языковой модели, на которой работает чат-бот ChatGPT. Это также самая передовая из когда-либо существовавших система искусственного интеллекта, которой удалось как ошеломить, так и напугать своими возможностями экспертов по искусственному интеллекту.
«Усовершенствованный ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять с соразмерной тщательностью и с соответствующими ресурсами», — говорится в письме. «К сожалению, такого уровня планирования и управления не существует, хотя в последние месяцы лаборатории искусственного интеллекта оказались вовлечены в неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».
Как и ожидалось, руководители OpenAI и Microsoft не входят в число подписантов и пока не ответили на это открытое письмо.
