Google представила CodeMender — ИИ-агента для автоматического поиска и устранения уязвимостей в коде

Google DeepMind анонсировала CodeMender — автономного искусственного интеллекта, способного самостоятельно анализировать исходный код, находить в нём уязвимости и применять исправления. В отличие от помощников вроде GitHub Copilot, CodeMender не занимается автодополнением кода, а сосредоточен на анализе уже написанного — выявляет причины уязвимостей и предлагает патчи, которые проходят как автоматическую, так и ручную проверку.

В основе CodeMender лежит языковая модель Gemini Deep Think, обладающая расширенными возможностями логического анализа. Вокруг неё построена инфраструктура с инструментами поиска по коду, отладки, тестирования, компиляции и фаззинга. Агент определяет источник проблемы, предлагает решение, пересобирает проект, сравнивает поведение старой и новой версий и при необходимости вносит коррективы в свои правки.

За первые полгода работы CodeMender успел внести 72 патча в крупные open-source проекты, включая репозитории с кодовой базой до 4,5 миллиона строк. Один из примеров — библиотека libwebp, где агент автоматически добавил флаги компиляции -fbounds-safety, предотвращающие переполнение буфера — тип уязвимости, лежащий в основе громкого инцидента CVE-2023-4863, использовавшегося для атак на iOS.

Отличительной чертой CodeMender является его проактивный подход: он не просто исправляет обнаруженные баги, а устраняет целые классы потенциальных уязвимостей, усиливая защиту кода в целом. DeepMind отмечает, что агент сочетает машинное рассуждение с традиционными методами статического и динамического анализа.

На текущем этапе CodeMender работает в ограниченном режиме: все его изменения проходят проверку исследователями. В будущем DeepMind планирует расширить доступ к системе и интегрировать её в DevSecOps-процессы, чтобы ускорить выпуск безопасных обновлений.