Эксперт: скачанные модели для Docker Model Runner следует считать недоверенным файлом

Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис», отметила: «Docker Model Runner запускает модели не на сервере, а прямо на машине разработчика. Отсюда и масштаб: под удар попадает рабочее место, на котором лежат доступы к репозиториям, ключи и тестовые данные».
Как поясняют в анализе ZDI, внедрить вредоносное содержимое можно через метаданные GGUF (имена ключей, значения или шаблон чата) либо через флаг --override-kv, который подменяет эти метаданные уже при запуске модели.
Продолжая мысль, Ирина Меженева обращает внимание на другой уровень проблемы: «Модель — это файл, где кроме весов лежат метаданные и шаблон чата, и они попадают в лог как обычный текст без очистки. Свой текст можно передать внутри модели или в запросе к ней. Поэтому скачанную модель стоит считать недоверенным файлом и смотреть, что у неё внутри. В лаборатории технологий ИИ "Газинформсервиса" мы проверяем, как модели ведут себя при таких манипуляциях, а в BAS SimuStrike эти проверки автоматизированы».
Обновление закрывает вектор через параметры запуска DMR, но не отменяет риск на уровне самого файла модели: если разработчик запускает модель из ненадёжного источника, она остаётся недоверенным артефактом независимо от версии раннера.


