ИИ признали новым источником киберугроз: ФСТЭК обновила банк рисков

ФСТЭК России впервые добавила угрозы, связанные с использованием искусственного интеллекта, в официальный Банк данных угроз безопасности информации. Речь идет о систематизации рисков, возникающих на этапах создания, обучения и эксплуатации ИИ-решений, включая генеративные модели.

В обновлённом перечне регулятор описал характерные именно для ИИ сценарии атак. Среди них — манипулирование промптами и шаблонами запросов, вмешательство в настройки ИИ-агентов, компрометация обучающих выборок, а также попытки вызвать отказ в работе ИИ-сервисов. Отдельное внимание уделено рискам утечки конфиденциальных данных и нарушению целостности моделей.

В ФСТЭК отмечают, что подобные угрозы актуальны как для государственных информационных систем, так и для объектов критической информационной инфраструктуры. Включение ИИ-рисков в БДУ означает их обязательный учет при моделировании угроз и разработке мер защиты.

По оценкам участников рынка, сформированный перечень станет базой для будущего стандарта безопасной разработки и внедрения ИИ-систем. Его обсуждение запланировано до конца 2025 года. Ожидается, что новые требования усилят контроль за применением искусственного интеллекта в госсекторе и корпоративных ИТ-средах на фоне роста числа инцидентов и усложнения кибератак.