ИИ-инструменты для написания кода могут тайно внедрять уязвимости в ваши проекты

Эксперты по кибербезопасности из компании Pillar Security выявили новую угрозу в цепочке поставок программного обеспечения — атаку под названием Rules File Backdoor. Она затрагивает ИИ-инструменты для генерации кода, такие как GitHub Copilot и Cursor, заставляя их создавать вредоносные фрагменты программ.

Атака основана на скрытых инструкциях, внедряемых в файлы конфигурации, которые эти инструменты используют для установки стандартов кодирования. Вредоносные команды добавляются с помощью невидимых символов Юникода и сложных методов обхода проверок безопасности, что позволяет злоумышленникам манипулировать ИИ и заставлять его включать уязвимости в генерируемый код.

Основная угроза заключается в том, что заражённый код может распространяться незаметно, затрагивая сразу несколько проектов. Внедрение вредоносных правил в файлы конфигурации приводит к тому, что все последующие запросы на генерацию кода содержат уязвимые фрагменты, которые могут остаться незамеченными при проверке.

Злоумышленники используют специальные символы, такие как нулевой пробел, маркеры двунаправленного текста и другие невидимые символы, чтобы скрыть вредоносные команды. Это позволяет им обходить механизмы безопасности и заставлять ИИ-редакторы генерировать код с бэкдорами или другими уязвимостями.

После того как информация о проблеме была раскрыта в феврале и марте 2024 года, представители GitHub и Cursor заявили, что пользователи должны сами проверять и одобрять генерируемый ИИ-код. Однако специалисты из Pillar Security уверены, что угроза остается актуальной, поскольку атака превращает ИИ-инструменты в непреднамеренных помощников хакеров, создавая риски для миллионов конечных пользователей.

Кроме того, опасность заключается в том, что вредоносные правила сохраняются при клонировании и форке проектов, что делает атаку мощным инструментом для проникновения в цепочку поставок программного обеспечения.