Google выпускает новые модели ИИ с упором на безопасность
Новые модели ИИ являются дополнениями к семейству генеративных моделей Gemma 2, которые компания Google представила еще в мае. Модели Gemma 2 2B, ShieldGemma и Gemma Scope разработаны для разных приложений и вариантов использования, но имеют общую черту — безопасность.
Модели серии Gemma отличаются от моделей Gemini тем, что Google не предоставляет доступ к исходному коду, который используется в собственных продуктах Google, а также доступен разработчикам. Скорее всего, Gemma - это попытка Google укрепить в сообществе разработчиков добрую волю.
Gemma 2 2B — это легкая модель для генерации анализа текста, которая может работать на различных аппаратных средствах, включая ноутбуки и периферийные устройства. Она лицензирована для определенных исследовательских и коммерческих приложений и может быть загружена из таких источников Google, как библиотека моделей Vertex AI, платформа науки о данных Kaggle и набор инструментов AI Studio.
ShieldGemma - это набор «классификаторов безопасности», которые пытаются обнаружить в Интернете токсичность, такую как разжигание ненависти, домогательства и откровенно сексуальный контент. ShieldGemma создана на основе Gemma 2 и может использоваться для фильтрации подсказок к генеративной модели, а также контента, который генерирует эта модель.
Наконец, Gemma Scope позволяет разработчикам «увеличивать масштаб» определенных элементов модели Gemma 2 и делать ее внутреннюю работу более понятной.
«Gemma Scope состоит из специализированных нейронных сетей, которые помогают нам распаковывать плотную, сложную информацию, обрабатываемую Gemma 2, расширяя ее до формы, которую легче анализировать и понимать. Изучая эти расширенные представления, исследователи могут получить ценную информацию о том, как Gemma 2 определяет закономерности, обрабатывает информацию и в конечном итоге делает прогнозы», - написала Google в своем блоге.
В отчете Google говорится, что открытые модели расширяют доступность генеративного ИИ для небольших компаний, исследователей, некоммерческих организаций и индивидуальных разработчиков. Также в нём подчеркивается необходимость возможностей мониторинга таких моделей на предмет потенциальных рисков.
