AWS представляет первую облегчённую модель принятия решений Strands Decider 2B
Компания объявила о выпуске модели принятия решений с открытым исходным кодом под названием Strands Decider 2B. Она предназначена для быстрого принятия решений за счёт устранения необходимости генерации текста, которая, как известно, потребляет огромное количество токенов и увеличивает задержку ответа. Модель Strands Decider 2B оптимизирована для локального развёртывания и быстрых экспериментов, поэтому разработчики могут загружать и запускать ее как на своих ноутбуках, так и в общедоступных облачных средах. По словам представителей AWS, предоставив разработчикам доступ к специализированному механизму принятия решений, компания надеется ускорить темпы разработки агентного искусственного интеллекта.
Модели принятия решений, также известные как «модели системы 1», сильно отличаются от больших языковых моделей (LLM). В то время как большие языковые модели реагируют на входные данные, генерируя текст, код, изображения или видео, модели принятия решений просто принимают решения, когда им предоставляется несколько заранее определённых вариантов, без каких-либо других выходных данных. Каждому принятому решению присваивается показатель достоверности, который помогает пользователям оценить, насколько точен ответ. Отсутствие генерации текста означает, что модели принятия решений превосходят конкурентов по скорости и низкой задержке. Оценки достоверности, присваиваемые каждому ответу, имеют решающее значение, поскольку отсутствие возможностей генерации текста означает, что эти модели не могут объяснить свои решения.
Хотя модели принятия решений существуют уже довольно давно, они привлекли к себе внимание лишь пару недель назад после появления стартапа TypeSafe AI и последующего выпуска им первой специализированной модели принятия решения под названием Jev. Модель Jev была разработана для принятия быстрых, структурированных решений, которые программное обеспечение и агенты искусственного интеллекта могут использовать напрямую. Jev продемонстрировала, насколько полезными могут быть модели принятия решений, но команда AWS считает, что у неё есть ряд структурных недостатков. В частности, её параллельная структура вывода приводит к проблемам с производительностью при выполнении сложных логических вычислений.
Компания AWS решила усовершенствовать эту концепцию, и модель Strands Decider 2B — это её первая реальная попытка в этом направлении. Компания взяла за основу обычную большую языковую модель Qwen3.5-2B (её «тело», то есть основную часть), но вместо стандартной «головы» LLM — той части, которая обычно выдаёт ответы — приделали свою маленькую «указательную голову» всего на 1 миллион параметров, что очень мало по меркам таких моделей. Далее исследователи дообучили основу языковой модели Qwen3.5-2B с помощью LoRA-адаптера ранга 16. LoRA (Low-Rank Adaptation — низкоранговая адаптация) — это технология, которая замораживает исходные веса большой модели и обучает только небольшие «низкоранговые матрицы», а ранг 16 указывает на ёмкость адаптера, то есть способность к обучению. Целью этого дообучения было научить модель напрямую сравнивать внутренние представления (скрытые состояния) каждого доступного варианта с позициями ответов, то есть, по сути, выбирать правильный вариант из списка.
Облачный гигант заявил, что неоднократно совершенствовал модель Strands Decider 2B, и сегодняшняя версия получила название v.20. Компания заявила, что намеренно выбрала масштаб в 2 миллиарда параметров, поскольку считает, что такой размер обеспечивает оптимальный баланс: достаточно малый для работы на локальном компьютере с задержкой менее 150 миллисекунд, и в то же время достаточно мощный для принятия сложных решений. Strands Decider 2B демонстрирует хорошие результаты в бенчмарках: AWS сообщает, что в тесте JevBench модель достигла высокого уровня точности и калибровки по сравнению с другими аналогичными моделями, имеющими 2 миллиарда параметров и открытый исходный код.
Модель Strands Decider 2B уже доступна для скачивания на сайте Hugging Face, а полный код, скрипты обучения и примеры можно найти на странице проекта в GitHub. AWS надеется, что сообщество разработчиков искусственного интеллекта поэкспериментирует с Strands Decider 2B и ускорит выполнение агентных задач, таких как маршрутизация моделей, выбор инструментов, управление контекстом, соблюдение ограничений и классификация политик. Это также открывает возможности для создания «гибридных агентов», которые используют модели принятия решений для выполнения простых и повторяющихся задач, а большие языковые модели — для решения сложных логических задач.
