Samsung выделяет 6 млн долларов на стартап в области кибербезопасности
Капитал был предоставлен ведущим инвестором Entrée Capital и венчурным подразделением компании Samsung Electronics. В результате общий объем внешнего финансирования Lasso Security составил чуть более 7,5 миллионов долларов.
С момента запуска в прошлом году чат-бота ChatGPT, миллионы офисных работников воспользовались этим инструментом искусственного интеллекта от OpenAI, а также чат-ботами других конкурирующих компаний. Компания Lasso Security из Тель-Авива разработала платформу, которая может обнаруживать несанкционированное использование сотрудниками продуктов генеративного искусственного интеллекта, а также снижать связанные с этим риски кибербезопасности.
Платформа может анализировать технологическую среду компании и автоматически отображать все инструменты генеративного ИИ, используемые ее сотрудниками. Затем программное обеспечение показывает эти инструменты на информационной панели, которая также предоставляет информацию о том, какой работник использует ту или иную услугу и каким образом. Кроме того, администраторы имеют доступ к элементам контроля за использованием приложений ИИ.
Lasso Security обнаруживает запросы в инструментах ИИ, содержащие конфиденциальные данные, такие как номера кредитных карт клиентов. Используя платформу, администраторы могут запретить работникам вводить такие данные во внешние большие языковые модели. Когда сотрудники пытаются включить конфиденциальную информацию в запрос к ИИ, Lasso Security отображает всплывающую панель, в которой им предлагается заменить информацию «данными-заполнителями».
Производитель программного обеспечения заявляет, что его платформа обнаруживает проблемы кибербезопасности не только во входных данных, которые пользователи вводят в модели ИИ, но и в выходных данных этих моделей. В частности, Lasso Security может обнаружить, когда инструмент программирования на базе ИИ генерирует небезопасный код, который разработчикам не следует включать в программное обеспечение. Платформа также обнаруживает другие проблемы, например, ситуации, когда приложение искусственного интеллекта в ответ на запросы пользователя может выводить материалы, защищенные авторским правом.
Третье направление деятельности компании — помощь предприятиям в защите от взлома их собственных приложений искусственного интеллекта. По данным Lasso Security, ее платформа может обнаруживать и блокировать так называемые атаки с быстрым внедрением. Это кибератаки, в которых хакеры используют вредоносные подсказки, чтобы обмануть ИИ или обманом заставить его раскрыть конфиденциальные данные. Lasso Security также может обнаружить кампании отказа в обслуживании (DDoS атаки), которые пытаются вывести из строя модели ИИ.
«Решение Lasso напрямую устраняет уязвимости, связанные с большими языковыми моделями», — сказал генеральный партнер Entrée Capital Эран Бельски. «Это позволяет предприятиям уверенно интегрировать большие языковые модели в свои продукты или внутренние инструменты, защищая при этом свои коммерческие данные и информацию».
Lasso Security планирует использовать полученное финансирование для найма сотрудников и улучшения своей платформы. Компания, запустившая свою деятельность только в этом году, заявляет, что ее программное обеспечение уже используется несколькими организациями для поддержки своих инициатив в области кибербезопасности больших языковых моделей.
