Москва, 22 сентября 2025 года — Федеральная служба по техническому и экспортному контролю (ФСТЭК России) готовит новый стандарт, направленный на обеспечение безопасности при разработке систем искусственного интеллекта. Об этом сообщил первый заместитель директора ведомства Виталий Лютиков в ходе выступления на форуме BIS Summit 2025.
По его словам, проект методического руководства планируется вынести на общественное обсуждение до конца года. Документ станет дополнением к действующим нормам безопасной разработки ПО, в том числе к стандарту ГОСТ Р 56939-2024.
ФСТЭК подчёркивает, что ИИ-системы требуют особого подхода с точки зрения информационной безопасности. Среди рисков — галлюцинации моделей, утечка конфиденциальных данных, уязвимость к манипуляциям через промпты, а также возможность вмешательства в механизмы машинного обучения. Все эти факторы, по мнению регулятора, необходимо учитывать на этапе проектирования и создания ИИ-продуктов.
На сегодняшний день в приказе ФСТЭК № 117 от 11 апреля 2025 года, который вступает в силу 1 марта следующего года, уже присутствует раздел, касающийся ИИ-технологий, но его требования охватывают только эксплуатационный этап, а не разработку.
По его словам, проект методического руководства планируется вынести на общественное обсуждение до конца года. Документ станет дополнением к действующим нормам безопасной разработки ПО, в том числе к стандарту ГОСТ Р 56939-2024.
ФСТЭК подчёркивает, что ИИ-системы требуют особого подхода с точки зрения информационной безопасности. Среди рисков — галлюцинации моделей, утечка конфиденциальных данных, уязвимость к манипуляциям через промпты, а также возможность вмешательства в механизмы машинного обучения. Все эти факторы, по мнению регулятора, необходимо учитывать на этапе проектирования и создания ИИ-продуктов.
На сегодняшний день в приказе ФСТЭК № 117 от 11 апреля 2025 года, который вступает в силу 1 марта следующего года, уже присутствует раздел, касающийся ИИ-технологий, но его требования охватывают только эксплуатационный этап, а не разработку.
