В России начал формироваться рынок решений для защиты систем искусственного интеллекта. По прогнозу IT-компании AppSec Solutions, его объем в 2026 году составит не менее 1 млрд руб., а к 2029 году может вырасти до 11 млрд руб. Более оптимистичные оценки участников рынка предполагают 3–4 млрд руб. уже в 2026 году и до 25–30 млрд руб. к 2030 году.
Рост сегмента связан с активным внедрением генеративного ИИ в бизнесе и госсекторе, а также с первыми публичными инцидентами утечек персональных данных и коммерческой тайны из GenAI-моделей. Как отмечает директор по кибербезопасности «СберТеха» Всеслав Соленик, компании все чаще сталкиваются со специфичными угрозами – от манипуляций с моделями до несанкционированного доступа к данным через чат-боты.
В 2025 году были зафиксированы крупные инциденты, связанные с уязвимостями ИИ-сервисов. Так, у разработчика чат-бота DeepSeek произошла утечка более миллиона записей из-за неправильно настроенной облачной базы данных, а злоумышленники использовали уязвимость внедрения подсказок в ChatGPT для получения конфиденциальной информации пользователей.
По словам гендиректора AppSec Solutions Юрия Сергеева, инструменты анализа защищенности ИИ уже внедряются в крупнейших финтех-компаниях. Основными заказчиками таких решений становятся финансовые организации, телеком и промышленные предприятия, проходящие AI-трансформацию.
Эксперты отмечают, что традиционные средства кибербезопасности – антивирусы, фаерволы и системы обнаружения вторжений – плохо подходят для защиты больших языковых моделей. Для этого требуются иные подходы, включая анализ контекста, поведенческих аномалий и самообучающиеся механизмы безопасности.
Отдельную угрозу представляет маскировка кибератак под легитимный трафик LLM. По данным экспертов «Информзащиты», злоумышленники используют ИИ-интеграции как канал управления зараженными устройствами, что повышает незаметность атак на корпоративный сектор на 42%.
Наиболее уязвимы к новым типам атак:
Источник: Коммерсант