OpenAI реорганизует исследовательскую группу, отвечающую за стиль общения ChatGPT
Главный научный сотрудник OpenAI Марк Чен сообщил, что команда «Model Behavior», состоящая примерно из 14 исследователей, присоединится к команде «Post Training» — более крупной исследовательской группе, отвечающей за улучшение моделей ИИ после их первоначального предварительного обучения. В рамках изменений команда Model Behavior будет подчиняться руководителю отдела постобучения OpenAI Максу Шварцеру.
Основательница и руководитель команды Model Behavior Джоанн Джанг также готовится начать новый проект в компании. Джанг рассказала, что формирует новую исследовательскую группу под названием «OAI Labs», которая будет отвечать за «разработку и прототипирование новых интерфейсов для взаимодействия людей с ИИ»
Команда Model Behavior стала одной из ключевых исследовательских групп OpenAI, отвечающей за формирование индивидуальности моделей искусственного интеллекта и за снижение их уровня лести, который возникает, когда модели искусственного интеллекта просто соглашаются с убеждениями пользователей, даже нездоровыми, и поддерживают их, вместо того чтобы предлагать сбалансированные ответы. Команда также работала над устранением политической предвзятости в ответах моделей и помогла OpenAI определить свою позицию по вопросу осознанности искусственного интеллекта.
В служебной записке для сотрудников Марк Чен отметил, что сейчас самое время приблизить работу команды OpenAI Model Behavior к разработке базовой модели. Тем самым компания даёт понять, что «личность» её ИИ теперь считается критически важным фактором развития технологии.
В последние месяцы OpenAI столкнулась с повышенным вниманием к поведению своих моделей искусственного интеллекта. Пользователи резко возражали против изменений в характеристиках личности, внесённых в GPT-5, которые, по словам компании, демонстрировали меньший уровень лести, но казались некоторым пользователям более холодными. Это побудило OpenAI восстановить доступ к некоторым своим устаревшим моделям, таким как GPT-4o, и выпустить обновление, чтобы сделать новые ответы GPT-5 «более тёплыми и дружелюбными», не увеличивая при этом уровень подхалимства.
Команда Model Behavior работала над всеми моделями OpenAI, начиная с GPT-4, включая GPT-4o, GPT-4.5 и GPT-5. До создания подразделения Джанг работала над такими проектами, как Dall-E 2, который представляет собой ранний инструмент генерации изображений OpenAI. Недавно Джанг объявила, что покидает команду, чтобы «начать что-то новое в OpenAI». Бывший руководитель Model Behavior проработала в OpenAI почти четыре года. Затем Джан сообщила, что будет генеральным директором команды OAI Labs, которая пока будет подчиняться Чену. Однако, по её словам, пока рано говорить об этом, и неясно, какими будут эти новые интерфейсы.
«Я с нетерпением жду возможности исследовать закономерности, которые выведут нас за рамки парадигмы чата, больше ассоциирующейся с общением или даже с агентами, где акцент делается на автономности», — сказала Джанг. «Я рассматриваю системы ИИ как инструменты для мышления, творчества, игры, действий, обучения и общения».
