Илья Захаров, «Группа Астра»: Код, написанный ИИ — это «кот в мешке», проверить его можно только наблюдением
«Раньше разработчик отчетливо понимал, что происходит в его коде, но сегодня часть, которую пишут агенты, становится всё больше, и по-настоящему код не знает никто. При этом он всё равно попадёт в промышленную эксплуатацию после проверок, тестов и согласований, по итогам которых все будут уверены, что проблем нет», — говорит Илья Захаров.
Сегодня единственный способ узнать, как такой код ведёт себя на самом деле – наблюдать за ним в работе.
«Наблюдаемость из инструмента эксплуатации превращается в главный механизм контроля качества. Метрики, логи и трассировки становятся по сути документацией: они рассказывают, что делает код, лучше, чем любой человек в команде. Телеметрия будет закладываться в код уже при генерации», — продолжает эксперт «Группы Астра».
Эксперт также прогнозирует, что в ближайшем будущем агенты смогут сами устранять типовые сбои и работать в дежурной смене.
«Первые шаги в этом направлении уже сделаны. На конференции «Группы Астра» был представлен AMAIA (Astra Monitoring AI Agents) – агентный слой поверх платформы наблюдаемости. Агенты работают по инструкциям на русском языке, разбирают инциденты, накапливают опыт и разворачиваются внутри контура заказчика. Сейчас они уже работают в пилотах у крупных компаний», – заключил Илья Захаров.
