Шок: почту CEO взломали, используя всего лишь один звонок

Исследователь по информационной безопасности Роб Шапланд в ходе тестирования систем защиты смог взломать почту генерального директора компании, совершив всего один телефонный звонок. Для атаки он использовал синтезированный голос CEO, созданный с помощью ИИ на основе открытых видеоматериалов.

По словам Шапланда, современные инструменты искусственного интеллекта значительно усиливают эффективность классических приёмов социальной инженерии. Компании нанимают его для проверки устойчивости к подобным атакам, и в последнем проекте задача заключалась в получении доступа к корпоративной почте руководителя. Исследователю оказалось достаточно связаться со службой поддержки и запросить сброс пароля, представившись CEO с клонированным голосом.

Запись для создания дипфейка была взята из промо-ролика компании на YouTube продолжительностью около пяти минут. Фрагмент аудио Шапланд загрузил в сервис клонирования голоса ElevenLabs, после чего сгенерированный текст запроса формировал ChatGPT, а голосовая модель вела диалог с сотрудниками поддержки автоматически. По его оценке, для имитации голоса достаточно примерно 10 секунд записи, однако больший объём материала делает подделку более убедительной.

Исследователь отмечает рост атак, в которых ИИ сочетается с традиционными методами взлома. Чат-боты, по его словам, всё чаще используются уже на этапе планирования — они помогают находить уязвимости и подсказывают обходные решения. При этом на даркнете доступны версии таких инструментов без ограничений, включая модели, способные разрабатывать вредоносное ПО.

Шапланд считает, что сегодня масштабы применения ИИ в киберпреступности нередко переоцениваются, однако в ближайшие годы ситуация может резко измениться. Он прогнозирует появление поддельных видеоконференций, практически неотличимых от настоящих, и связывает это с ростом качества генеративных моделей, в том числе после выхода Sora 2.

Основной целью своих демонстраций исследователь называет повышение осознанности сотрудников компаний. По его мнению, корпоративное обучение кибербезопасности стало формальностью и перестало готовить людей к реальным сценариям атак.

Эта история показывает, что главным уязвимым элементом в системах безопасности по-прежнему остаётся человек, а ИИ лишь кратно усиливает старые методы социальной инженерии. Технологии клонирования голоса и дипфейков снизили порог входа для атак и сделали их массовыми, быстрыми и почти неотличимыми от легитимных обращений. А ещё дали возможность «голосом начальника» повысить себе зарплату (не рекомендуется).