Многие пользователи создают в сети анонимные или поддельные профили, рассчитывая скрыть свою личность. Однако эта стратегия может оказаться неэффективной — современные модели ИИ способны распознавать подлог и во многих случаях устанавливать настоящего владельца аккаунта.
Для этого алгоритмы анализируют различные идентификационные сигналы: совпадения в данных (как небольшие фрагменты, так и большие массивы информации), а также характерные особенности поведения пользователя. К таким выводам пришли исследователи Швейцарской высшей технической школы Цюриха (ETH Zurich), независимой исследовательской программы MATS и компании Anthropic.
По словам учёных, их работа имеет серьёзные последствия для конфиденциальности в интернете. Долгое время пользователи исходили из предположения, что псевдонимы обеспечивают достаточную защиту, поскольку целенаправленная деанонимизация требует значительных ресурсов. Однако большие языковые модели ставят это представление под сомнение.
В ходе исследования ИИ сумел определить, что аккаунт является фейковым, в 68 % случаев. При этом среди выявленных поддельных профилей система правильно указала настоящего владельца в 90 % случаев.
Эти результаты могут затронуть не только пользователей соцсетей, пишущих под чужими именами. Теоретически ИИ способен раскрывать личности хакеров, публикующих конфиденциальные данные сотрудников компаний, или людей, задающих вопросы на публичных форумах. Иногда фальшивые аккаунты используют и бизнес-лидеры для продвижения своих компаний или дискредитации конкурентов — подобные действия в прошлом признавал даже миллиардер Илон Маск.
В то же время подобные технологии могут представлять опасность для людей, которым жизненно необходима анонимность: информаторов, активистов или жертв насилия.
Чтобы снизить риск деанонимизации, исследователи предлагают ряд мер: ограничивать доступ к пользовательским данным через API, совершенствовать системы обнаружения автоматического сбора информации и контролировать массовый экспорт данных. Однако сами авторы исследования признают, что такие меры не дают полной гарантии — и со временем сдерживать возможности ИИ в этой сфере будет всё сложнее.
Для этого алгоритмы анализируют различные идентификационные сигналы: совпадения в данных (как небольшие фрагменты, так и большие массивы информации), а также характерные особенности поведения пользователя. К таким выводам пришли исследователи Швейцарской высшей технической школы Цюриха (ETH Zurich), независимой исследовательской программы MATS и компании Anthropic.
По словам учёных, их работа имеет серьёзные последствия для конфиденциальности в интернете. Долгое время пользователи исходили из предположения, что псевдонимы обеспечивают достаточную защиту, поскольку целенаправленная деанонимизация требует значительных ресурсов. Однако большие языковые модели ставят это представление под сомнение.
В ходе исследования ИИ сумел определить, что аккаунт является фейковым, в 68 % случаев. При этом среди выявленных поддельных профилей система правильно указала настоящего владельца в 90 % случаев.
Эти результаты могут затронуть не только пользователей соцсетей, пишущих под чужими именами. Теоретически ИИ способен раскрывать личности хакеров, публикующих конфиденциальные данные сотрудников компаний, или людей, задающих вопросы на публичных форумах. Иногда фальшивые аккаунты используют и бизнес-лидеры для продвижения своих компаний или дискредитации конкурентов — подобные действия в прошлом признавал даже миллиардер Илон Маск.
В то же время подобные технологии могут представлять опасность для людей, которым жизненно необходима анонимность: информаторов, активистов или жертв насилия.
Чтобы снизить риск деанонимизации, исследователи предлагают ряд мер: ограничивать доступ к пользовательским данным через API, совершенствовать системы обнаружения автоматического сбора информации и контролировать массовый экспорт данных. Однако сами авторы исследования признают, что такие меры не дают полной гарантии — и со временем сдерживать возможности ИИ в этой сфере будет всё сложнее.
