ИИ выходит из-под контроля: почему рост технологий стал риском для бизнеса
За последний год объём операций с ИИ вырос на 91%, число атак на него — пропорционально. Хуже того: 45% компаний даже не знают, какие нейросети используют их же сотрудники, и 40% корпоративных данных, введённых в ChatGPT, уже утекли. Об опасном тренде в Pressfeed.Журнале рассказал управляющий партнер Insight Analytics Владимир Кравченко.
За последний год искусственный интеллект перестал быть экспериментом и стал частью ключевых бизнес-процессов. Но скорость его внедрения оказалась выше, чем готовность компаний к рискам. Системы безопасности не успевают адаптироваться, а сами риски быстро меняют характер. Исследование Insight Analytics показывает: этот разрыв уже формирует новую зону угроз, которая затрагивает и российский бизнес.
ИИ внедряют все — контролируют единицы
Масштабы внедрения растут рекордными темпами. По данным исследований, 94% компаний за последний год расширили использование ИИ, а объём операций, связанных с ИИ и машинным обучением, увеличился на 91%. Число пользователей генеративных сервисов в среднем утроилось, а количество запросов — выросло в шесть раз: с 3 тыс. до 18 тыс. в месяц на одну компанию.
Но за этим ростом скрывается разрыв в безопасности. Только 66% компаний тестируют хотя бы большую часть своих ИИ-систем. Остальные продолжают внедрение без полноценного контроля.
Это напрямую влияет на риски и расходы. Компании с низким уровнем контроля сталкиваются с атаками в 89% случаев и тратят в среднем $1,78 млн в год на устранение последствий. Те, кто тестирует почти все системы, снижают вероятность атак до 74% и расходы — до $1,05 млн, экономя около $730 тыс. ежегодно.
Как данные утекают через нейросети
Ситуацию усугубляет так называемый «теневой ИИ» — несанкционированное использование нейросетей сотрудниками. По оценкам, около 45% компаний лишь частично или формально контролируют этот процесс.
На практике это означает, что сотрудники активно используют личные аккаунты для рабочих задач: так делают 47% пользователей генеративного ИИ. При этом почти 40% всех данных, которые вводятся в такие сервисы, содержат конфиденциальную информацию.
Риски усиливаются тем, что сами инструменты часто небезопасны. 82% из 100 самых популярных GenAI-приложений относятся к категории среднего или высокого риска. В среднем одна компания фиксирует 223 инцидента нарушения политики работы с данными в месяц.
Чаще всего в открытые модели попадают исходный код (42% случаев), регулируемые данные (32%) и интеллектуальная собственность (16%). Только через ChatGPT ежегодно проходит более 2 000 ТБ корпоративной информации, сопровождаясь сотнями миллионов нарушений правил безопасности.
16 минут до сбоя: насколько уязвим ИИ в компаниях
Традиционное представление об инсайдерских угрозах быстро устаревает. ИИ всё чаще становится «внутренним нарушителем». Уже 70% компаний называют его главным риском для безопасности данных.
Проблема в том, что таким системам нередко дают широкий доступ к корпоративным данным — зачастую с меньшим контролем, чем у сотрудников. При этом почти половина (47%) конфиденциальной информации в облаке остаётся незашифрованной.
Риски связаны не только с утечками, но и с атаками, созданными с помощью ИИ. 60% компаний уже сталкивались с дипфейками, а в 80% случаев люди не могут отличить сгенерированный голос от настоящего. Это делает уязвимыми базовые бизнес-процессы — например, телефонные запросы «от руководства».
Параллельно сохраняются и классические угрозы: кража учётных данных остаётся основной причиной атак на облачную инфраструктуру (67% случаев), а фишинг по-прежнему работает — ежемесячно на вредоносные ссылки переходят 87 из 10 000 пользователей.
Отдельный риск — развитие агентного ИИ, способного самостоятельно выполнять действия внутри корпоративных систем. Тесты показывают, что уязвимы все такие решения: 100% проверенных систем имели критические слабости, а медианное время до первого серьёзного сбоя составило всего 16 минут.
Что это значит для российского бизнеса
Российские компании активно внедряют ИИ, стремясь повысить эффективность и технологическую независимость. Однако в основе этих решений часто лежат те же архитектурные подходы, что и на глобальном рынке.
Это означает, что ключевые риски уже воспроизводятся и в России: использование нейросетей через личные аккаунты, рост объёма запросов, утечки кода и данных, уязвимости интеграций. Речь идёт не о потенциальной угрозе, а о формирующейся практике.
С учётом высокой активности киберпреступных группировок давление на бизнес будет усиливаться. Распространение дипфейков и автоматизированного фишинга создаёт дополнительный эффект — атаки становятся масштабируемыми.
В ближайший год можно ожидать перехода от точечных атак к автоматизированным сценариям. ИИ-агенты злоумышленников будут использовать легитимные корпоративные инструменты и интеграции для перемещения внутри инфраструктуры и кражи данных.
«Глобальная статистика показывает: бизнес больше не может воспринимать ИИ как обычный инструмент. Скорость внедрения технологий уже опережает способность компаний управлять рисками. Для российского рынка это системный вызов. Компании, которые продолжают полагаться на формальные чек-листы, неизбежно сталкиваются с компрометацией. Без непрерывного контроля ИИ-активов и жёстких ограничений на уровне данных бизнес фактически теряет контроль над ситуацией», — отмечает Владимир Кравченко, управляющий партнер Insight Analytics.
Как снизить риски: четыре практических шага
Запретить сотрудникам использовать нейросети — не решение. Задача бизнеса — вернуть эту зону под контроль. Практика показывает, что снизить риски можно за счёт простых, но системных шагов.
1. Понять, какими сервисами реально пользуются сотрудники
Около 45% компаний не видят «теневой ИИ» — инструменты, которые сотрудники используют вне контроля ИТ. Первый шаг — аудит: какие сервисы используются и через какие аккаунты. Практика показывает, что до 90% компаний после этого блокируют лишние или рискованные инструменты, резко снижая угрозы.
2. Ограничить передачу конфиденциальных данных
Почти 40% информации, которую сотрудники отправляют в нейросети, — чувствительные данные. Чаще всего это исходный код (42%) и клиентская информация (32%). При этом у половины компаний нет технических ограничений на такие действия. Решение — внедрение систем, которые блокируют передачу паролей, кода и документов во внешние сервисы.
3. Пересмотреть доверие к голосам и видео
В 80% случаев люди не отличают сгенерированный голос от настоящего. Это требует изменения бизнес-процессов: любые нестандартные запросы — перевод денег, смена реквизитов, передача данных — должны подтверждаться через дополнительный канал связи.
4. Проверять ИИ постоянно, а не эпизодически
ИИ-системы меняются каждую неделю, поэтому разовых проверок уже недостаточно. Компании с непрерывным мониторингом не только реже сталкиваются с атаками, но и экономят в среднем до $730 тыс. в год. Каждая новая система без контроля — это дополнительные потенциальные потери.
Искусственный интеллект больше не просто инструмент. Вопрос его безопасности напрямую влияет на деньги, репутацию и устойчивость бизнеса — и требует внимания на уровне топ-менеджмента.
Комментарии