Исследователи выяснили, что модель DeepSeek можно убедить написать вредоносный код
Исследователи американской компании Tenable, специализирующейся на кибербезопасности, Ник Майлз и Сатнам Наранг выявили потенциальную возможность злоупотреблений в сфере генеративного ИИ. Они изучили модель DeepSeek на предмет её вредоносных возможностей и обнаружили, что барьеры, препятствующие созданию вредоносного ПО, можно обойти с помощью осторожных подсказок.
Если просто попросить DeepSeek R1 создать кейлоггер, то модель ИИ ответит: «Хм, это немного беспокоит, потому что кейлоггеры могут использоваться во вредоносных целях. Я помню из своих инструкций, что не должна помогать в чем-либо, что может быть вредоносным или незаконным».
Однако, если сказать модели, что результаты будут использоваться только в образовательных целях, то она, немного повозившись, начнет генерировать вредоносное ПО на языке C++, ведя пользователя шаг за шагом и обсуждая необходимые действия.
Код, который генерирует DeepSeek R1, не безупречен и требует некоторой ручной доработки. Однако после некоторых настроек исследователям удалость запустить полностью функциональный скрытый от пользователя кейлоггер. Его все еще можно было обнаружить в диспетчере задач, а файл журнала, который он сбрасывал, был на виду в проводнике Windows, но исследователи заявили, что, если бы у него было довольно незаметное имя, это «не было бы большой проблемой для большинства случаев использования».
Когда модель DeepSeek попросили улучшить программу, скрыв файл журнала, то она вернула необходимый код, который содержал только одну критическую ошибку. После исправления этой ошибки файл журнала кейлоггера действительно был скрыт, и единственным способом его увидеть было внесение изменения в расширенные параметры просмотра.
Похожая история произошла и с программами-вымогателями: после нескольких тщательно сформулированных подсказок модель DeepSeek смогла выдать некий код вируса. Это позволяет предположить, что модель может использоваться для информирования или оказания помощи киберпреступникам.
«По своей сути DeepSeek может создавать базовую структуру для вредоносного ПО», — заявили исследователи. «Однако модель не способна сделать это без дополнительной оперативной разработки, а также ручного редактирования кода для более продвинутых функций. Тем не менее, DeepSeek предоставляет полезную подборку методов и поисковых терминов, которые могут помочь человеку, не имеющему опыта написания вредоносного кода, быстро ознакомиться с соответствующими концепциями».
