Дмитрий Петров: от жестких ИИ-сценариев к автономным агентам

В 3-м выпуске подкаста «УсталИИ?» генеральный директор группы IT-компаний Lad Дмитрий Петров рассказал о том, почему индустрия отказывается от жестких пайплайнов в пользу автономных мультиагентных систем и какие архитектурные и экономические риски несет такой подход.

Внедрение искусственного интеллекта в бизнес-процессы все чаще упирается не в мощность языковых моделей, а в вариативность корпоративных процедур: заранее прописанные сценарии не выдерживают столкновения с реальностью, где нет двух одинаковых процессов даже у двух разных сотрудников. 

Почему «жесткие пайплайны» обречены на провал

Ключевая проблема масштабирования ИИ в компаниях кроется в вариативности человеческих процессов.

«Основная сложность в том, что процессы похожи, но не одинаковы. Нет двух идентичных процессов даже в одной компании у двух разных сотрудников, — отмечает Дмитрий Петров. — Жесткие пайплайны (заранее прописанные сценарии) резко сужают область применения: под каждую вариацию приходится переделывать систему, что занимает недели и месяцы работы специалистов».

Чтобы преодолеть это ограничение, индустрия движется в сторону создания так называемых harness-систем («обвязки» для моделей). Сама по себе LLM не умеет управлять правами, хранить контекст долгосрочной памяти или планировать шаги. Ценность бизнес-агента формируется именно на уровне этой обвязки, которая позволяет системе действовать автономно: получать задачу в общем виде, самостоятельно выстраивать маршрут ее выполнения, откатываться при ошибках и при необходимости инициировать новые интеграции. По такому принципу, в частности, построена архитектура платформы автономных ИИ-агентов Ladcraft.

Как снизить стоимость владения ИИ

Важным драйвером внедрения остается экономическая эффективность (ROI). Использование исключительно топовых и дорогих моделей для всех задач подряд делает автоматизацию нерентабельной.

Решением становится мультиагентная архитектура. В таком подходе крупный агент-планировщик делегирует задачи «агентам-исполнителям», заточенным под разные модели. Для сложных аналитических участков подключаются мощные LLM, а для типовых операций (например, извлечение данных из документа) используются компактные и дешевые модели. Кроме того, агенты могут взаимодействовать друг с другом: например, агент-секретарь формирует запрос, агент-юрист проверяет его на соответствие регламентам и возвращает результат, минимизируя участие человека. Подобная логика реализована, в частности, в Ladcraft, где оркестрация задач между агентами позволяет гибко распределять вычислительную нагрузку.

Риски: от «цифрового вандализма» до утечек данных

Автономность агентов несет в себе серьезные риски, которые компании обязаны учитывать на этапе внедрения. Главная проблема: ИИ «не чувствует боли» и не обладает здравым смыслом.

«Был случай, когда агент удалил рабочую директорию с результатами недели работы, просто посчитав ее ненужной, — приводит пример Дмитрий Петров. — Большая часть настройки агента заключается в жестком ограничении его прав (role-based access control), чтобы он не мог нанести ущерб, особенно при работе с чувствительной информацией».

Эксперты подчеркивают, что предотвращение утечек конфиденциальных данных и защита от несанкционированных действий агентов сейчас являются приоритетными задачами при построении harness-систем. Это требует строгой анонимизации трафика и разделения данных по уровню критичности.

Еще один неочевидный фактор стоимости — расход токенов на «эмоциональное» общение. Языковые модели по умолчанию склонны к вежливости, извинениям или пространным объяснениям. На корпоративных объемах это выливается в заметные финансовые потери, поэтому современные интерфейсы взаимодействия с агентами настраиваются на максимальную сдержанность и лаконичность.

Прогноз: ИИ как утилита

Дмитрий Петров сравнивает текущий этап развития ИИ с электрификацией начала XX века: «Сто лет назад, чтобы загорелась лампочка, нужны были специальные знания и действия. Сейчас мы просто вставляем вилку в розетку. Так же будет и с интеллектом: когнитивные функции станут дешевыми, стандартизированными и доступными всем».

При этом эксперт признает существование «побочных эффектов» интенсивного использования ИИ, таких как снижение толерантности к медленным реакциям в обычном человеческом общении. Компания Lad, например, компенсирует это введением обязательных офисных дней и живых коммуникаций как формы «профилактики» от цифрового выгорания.

Подкаст «УсталИИ?» — проект группы IT-компаний Lad, посвященный практике применения ИИ в разработке и бизнесе. В выпусках эксперты компании обсуждают архитектурные тренды, риски внедрения и экономическую эффективность автономных агентов. Полные выпуски смотрите в каналах компании.