Безопасность ИИ входит в ТОП-5 приоритетов четверти российских корпораций

К2 Кибербезопасность совместно с «Лабораторией Касперского» исследовали, как российский бизнес подходит к безопасному использованию технологий искусственного интеллекта. В опросе приняли участие специалисты более чем из 200 крупных компаний, представляющих ИТ, финансы, торговлю, телекоммуникации, строительство и фармацевтику.

Основные направления применения ИИ. 41% компаний используют ИИ для генерации контента, 37% — для анализа данных, столько же — для разработки ПО. Еще 27% применяют технологии в HR-процессах, а 22% — в клиентских сервисах.

Влияние ИИ на бизнес. Для 43% респондентов недоступность ИИ-сервисов уже может привести к потерям: 32% ожидают умеренных последствий, еще 11% — критических. Это показывает, что ИИ постепенно становится частью значимых бизнес-процессов, а связанные с ним сбои способны приводить к существенным убыткам.

На этом фоне 25% компаний уже включают безопасность ИИ в число пяти ключевых бизнес-приоритетов. Однако отдельный бюджет на это направление есть только у 22% организаций. Среди основных рисков участники исследования отмечают генерацию токсичного контента от имени компании, передачу сотрудниками конфиденциальной информации в публичные ИИ-модели и использование вредоносных запросов.

Какие ИИ-сервисы используют компании. 59% организаций применяют сразу несколько типов ИИ-сервисов — российские и зарубежные публичные решения, собственные разработки и заказные продукты. Такой подход связан с различиями в эффективности сервисов для конкретных задач, спецификой бизнес-процессов и предпочтениями пользователей.

Отечественные публичные ИИ-сервисы используют 75% компаний, зарубежные — 60%. Высокая доля российских решений связана в том числе с требованиями законодательства и политикой импортозамещения.

Собственная разработка ИИ и MLSecOps. 38% корпораций уже сформировали собственные команды для разработки ИИ-решений, используемых во внутренних процессах. При этом в 75% случаев такие процессы полностью или частично не соответствуют стандарту управления безопасностью ИИ-разработок MLSecOps.

Только 18% компаний имеют управляемые процессы защиты собственной ИИ-разработки, а зрелая практика MLSecOps сформирована лишь у 7%. Еще одна проблема заключается в распределении ответственности: в 60% случаев безопасность ИИ-разработок обеспечивают исключительно команды разработчиков без участия специалистов по информационной безопасности.

Таким образом, темпы внедрения ИИ пока опережают развитие процессов управления связанными с ним рисками. Для повышения уровня защищенности компаниям необходимо теснее связывать бизнес, разработку и информационную безопасность: учитывать требования ИБ при планировании продуктов, формировать соответствующие политики и регулярно проверять зрелость процессов.