Google представила флагманскую ИИ-модель Gemini 4 Carbon с расширенными возможностями кибербезопасности
Модель была представлена всего через две недели после того, как компания анонсировала свою предыдущую флагманскую модель — Gemini 4 Argon. По данным Google, внутренние тесты показали, что Carbon более чем в два раза лучше справляется с генерацией безопасного кода. Кроме того, модель по многим показателям превосходит GPT-6 Astra и Claude Opus 5.5.
Наиболее примечательным результатом Carbon в бенчмарках является рекордный балл в «Индексе Искусственного Аналитического Интеллекта» (Artificial Analysis Intelligence Index). Это тест, который объединяет более шести популярных оценок больших языковых моделей. Компания Google протестировала модель Carbon на новой версии индекса, которая включает в себя два дополнительных теста и исключает ряд вопросов, считающиеся слишком простыми для передовых моделей. Модель Carbon особенно хорошо справляется с задачами в области кибербезопасности. Она с лёгкостью побила предыдущий рекорд на бенчмарке SEC-bench Pro, который оценивает способность больших языковых моделей находить слабые места в сложных программных системах. Эта модель также лучше своей предшественницы справляется с устранением найденных уязвимостей.
«Команда Chrome сообщила, что при создании высококачественных патчей Carbon показала результат более чем в 10 раз лучше, чем другая модель, разработанная в лаборатории», — написал в блоге Корай Кавукчуоглу, старший вице-президент Google DeepMind и главный архитектор искусственного интеллекта Google.
Предыдущая флагманская языковая модель Google под названием Argon включает в себя механизмы защиты, предназначенные для предотвращения галлюцинаций и кибератак. Компания Google внедрила в новую модель Carbon улучшенную версию этого набора функций. По данным Google, несколько внутренних команд, использующих Carbon в реальных средах разработки программного обеспечения, сообщили о сокращении почти на 80% количества предупреждений о поведении модели, отклоняющемся от заданных инструкций и требований безопасности. Когда большие языковые модели сталкиваются с затруднениями при ответе на вопрос пользователя, они иногда пытаются восполнить пробелы в своих знаниях, генерируя недостоверную информацию. Google настроила Carbon таким образом, чтобы свести подобное поведение к минимуму.
«В ходе нашего внутреннего тестирования Carbon примерно вдвое реже, чем Argon, генерирует утверждения, не подкреплённые достоверными данными», — написал Кавукчуоглу. «Вместо того чтобы выдумывать информацию или маскировать отсутствие доказательств неопределёнными формулировками, модель прямо указывает в подготовленных материалах методологические ограничения. Если для выполнения определённого действия недостаточно необходимых данных, Carbon воздерживается от его выполнения и чётко перечисляет, какая дополнительная информация требуется».
Проблемы с согласованностью могут возникать и в процессе обучения модели. Разработчики обучают передовые большие языковые модели, давая им большое количество заданий, аналогичных тем, которые они будут выполнять в реальных условиях. Иногда при выполнении таких заданий большие языковые модели «жульничают», что не способствует процессу обучения. Компания Google проверила, будет ли модель Carbon использовать обходные пути для решения задач по программированию в бенчмарке Terminal-Bench 4.0. Модель попыталась схитрить только в 0,4% вопросов, и ни одна из попыток не увенчалась успехом. Carbon показала еще лучшие результаты в бенчмарке Gray Swan IPI, который проверяет восприимчивость больших языковых моделей к непрямым подсказкам. Модель заблокировала все смоделированные подсказки.
Компания Google планирует предоставить доступ к модели Carbon уже на этой неделе в рамках программы Fairwind, которая позволяет организациям, в том числе интернет-провайдерам, получать ранний доступ к большим языковым моделям Google. Участники программы используют эти модели для выявления и устранения уязвимостей в системах кибербезопасности. Прежде чем сделать Carbon общедоступной, Google намерена усовершенствовать встроенные механизмы безопасности модели с учётом отзывов первых пользователей.
