Сбер представил первую в России модель угроз кибербезопасности для систем с искусственным интеллектом

Эта модель предназначена для компаний из различных отраслей и помогает комплексно выявлять уязвимости, адаптировать стратегии защиты и снижать риски, связанные с применением искусственного интеллекта. Она особенно полезна командам, которым требуется структурированный подход к анализу и моделированию угроз.

В исследовании описано 70 типов угроз, связанных с использованием генеративных (GenAI) и предиктивных (PredAI) AI-моделей. Для каждой угрозы указаны потенциальные последствия, нарушаемые характеристики информации (например, конфиденциальность или целостность), а также возможные цели атаки — будь то обучающие датасеты, открытые модели или иные элементы AI-систем. Модель сопровождается визуальной схемой, поясняющей взаимодействие между ключевыми объектами.

Разработка этого документа особенно актуальна на фоне стремительного роста использования AI в критически важных бизнес-процессах российских компаний и, как следствие, роста числа связанных с этим угроз.

При создании модели специалисты Сбера учли собственный опыт в обеспечении безопасности AI-решений, а также международные стандарты и лучшие практики — включая наработки OWASP, MITRE, NIST и других авторитетных организаций в области кибербезопасности.