Почему разрыв между внедрением ИИ и его защитой становится критическим риском для бизнеса

Две оси зрелости почти никогда не совпадают: бизнес уходит в промышленную эксплуатацию моделей, а контур безопасности остаётся на стадии пилотов. Для ниши мобильных и веб-сервисов это означает рост площади атаки при формально неизменном контроле.

Два измерения, один разрыв

Отрасль описывает внедрение ИИ и его защиту на разных языках. Gartner меряет adoption по стадиям от осведомлённости до трансформации. Безопасники оперируют OWASP AIMA. Регулятор ссылается на пункты Приказа ФСТЭК № 117. Шкалы не пересекаются — свести напрямую нельзя.

В публикации предложен единый знаменатель — CMMI, пять уровней от L1 (начальный, реактивный) до L5 (оптимизирующий с обратной связью по метрикам). На этой шкале внедрение и защита начинают читаться в одних единицах. OWASP AIMA ложится в верхнюю часть CMMI (L2–L5); всё, что ниже, — отсутствие управляемой практики. Сам AIMA версии 1.0 вышел в августе 2025 года как наследник SAMM.

Критическая точка — переход L2 → L3. По данным Gartner, именно здесь застревает большинство организаций. Пилот превращается в боевую систему, и одновременно включаются обязательные требования. Использование уже промышленное, защита — пилотная. Результат предсказуем: утечки через теневые сервисы, прямое несоответствие регулятору, скрытая телеметрия в проприетарных компонентах.

Что за этим стоит на практике

В интервью ICT-Online.ru начальник отдела ИБ компании «Код Безопасности» Алексей Коробченко фиксирует тот же сдвиг. По его оценке, искусственным интеллектом сегодня пользуется любая мало-мальски крупная компания. Параллельно появилось новое направление — обеспечение безопасности самих ИИ-технологий. Если раньше ИИ внедряли в ограниченных масштабах и об угрозах не задумывались, то теперь вопрос стоит остро и завязан на защиту корпоративных и клиентских данных.

Главный риск публичных нейросетей — утечка информации. Правило жёсткое: не загружать чувствительные и конфиденциальные данные. Злоумышленники используют ИИ для социальной инженерии — генерации фейковых страниц банков и магазинов, составления фишинговых текстов, разведки по целевой компании, автоматизации этапов атаки. Большинство кибератак проводится ботами; люди подключаются на поздних стадиях, когда найдены бэкапы и ценные данные.

Защитная сторона применяет те же технологии — в сегментах анализа данных и автоматизации рутины. В качестве примера Коробченко приводит модуль поведенческого анализа в NGFW «Континент 4» от «Кода Безопасности»: характеристики сетевого трафика разбираются в онлайне, при подозрительном профиле соединение блокируется. Модуль самообучается и реагирует на параметры, отсутствующие в шаблонах.

Что отслеживать

Процессный якорь для оценки — ISO/IEC 42001:2023, источник ролей, политик и управления жизненным циклом ИИ. При выборе сторонних сервисов и мобильных приложений с ИИ-компонентами практический вопрос один: на каком уровне по CMMI находится их защита относительно внедрения. Разрыв в два уровня — это не отставание, это открытая дверь. Зрелость защиты должна догонять зрелость внедрения, а лучше — слегка опережать.