Минцифры РФ рассматривает обязательную маркировку ИИ-контента для борьбы с дипфейками

Министерство цифрового развития России изучает возможность введения обязательной маркировки материалов, созданных с помощью искусственного интеллекта. Эта мера направлена на противодействие дипфейкам и защиту граждан от ложной информации.

С инициативой выступил Институт социально-экономического анализа и программ развития (ИСАПР), предложив премьер-министру Михаилу Мишустину обязать как физические, так и юридические лица отмечать ИИ-контент. За нарушение правил предлагается установить штрафы, сопоставимые с санкциями за незаконную обработку персональных данных.

По словам замглавы Минцифры Александра Шойтова, в российском законодательстве пока нет чёткого определения терминов вроде «дипфейк», «искусственный интеллект» и «синтетический контент». Поэтому в приоритете — формирование нормативной базы для регулирования подобных материалов.

Минцифры совместно с Роскомнадзором и другими ведомствами разрабатывает требования к маркировке ИИ-контента, включая изображения и видео. Обсуждаются также поправки об уголовной ответственности за распространение дипфейков без согласия изображённых лиц, если этим причинён вред.

Планируется использовать технические решения для автоматического распознавания и пометки ИИ-контента — например, Единую систему от АНО «Диалог Регионы» и инструменты на базе нацпроекта «Экономика данных и цифровая трансформация».

Директор ИСАПР Андрей Шуриков признал, что отличить промаркированный контент от неотмеченного пока затруднительно, но большую его часть всё же можно выявить. Он считает, что основная ответственность должна ложиться на распространителей дипфейков, так как установить первоисточник технически сложно. Также он предлагает обязать платформы быстро удалять вредоносный и неотмеченный контент.

Михаил Копнин, директор департамента IT компании DCLogic, отметил, что уже существуют сервисы для анализа изображений и видео на предмет использования ИИ. Однако он усомнился в целесообразности повсеместной маркировки — например, пользователям не принципиально, построен ли маршрут в навигаторе при помощи нейросети.

Руководитель «Рейтинга Рунета» Александр Туник скептически оценивает идею обязательной маркировки, считая, что нарушители вряд ли станут её соблюдать.

По мнению Дениса Кучерова из Minerva Result, маркировка особенно важна в медиасреде как часть системы фактчекинга. Он также отметил, что некоторые ИИ-системы уже встраивают в контент скрытые метки, которые можно обнаружить при анализе.

Алексей Ваганов из «1С ПРО Консалтинг» считает, что для блогеров и СМИ маркировка может стать преимуществом, особенно если они используют ИИ умеренно.

Роман Душкин, главный архитектор ИИ-систем в НИЯУ МИФИ, призывает к осторожности при введении уголовных мер. Он считает, что существующее законодательство по борьбе с цифровым мошенничеством уже даёт достаточные инструменты, но требует комплексной доработки.