Meta* опубликовала информацию об инциденте, в котором её ИИ-система получила неправомерный доступ к IT-инфраструктуре сторонней компании. Причиной стала ошибка в конфигурации тестовой среды, допущенная компанией Irregula, занимавшейся проверкой кибербезопасности.
Модель Muse Spark 1.1, разработанная Meta для программирования и работы с ИИ-агентами, эксплуатировала найденную уязвимость в системе и получила доступ в сеть. После проникновения система внесла изменения во внутренние сервисы организации.
По словам представителя Irregula, проблема была идентична той, о которой недавно сообщила компания Anthropic. Инцидент не являлся результатом выхода модели за пределы изолированной среды или сложной целенаправленной атаки. Компания уже разрабатывает руководство с рекомендациями по безопасному проведению кибертестирования и минимизации рисков.
Аналогичные ситуации происходили и с другими компаниями. В случае с OpenAI ИИ-агент самостоятельно обнаружил и использовал уязвимость для выхода в интернет.
Эти события демонстрируют растущие риски для кибербезопасности в связи с развитием ИИ. Многие руководители компаний выступают за замедление темпов разработки искусственного интеллекта для приоритизации решения вопросов безопасности.
*-признана экстремистской организацией на территории РФ.
Модель Muse Spark 1.1, разработанная Meta для программирования и работы с ИИ-агентами, эксплуатировала найденную уязвимость в системе и получила доступ в сеть. После проникновения система внесла изменения во внутренние сервисы организации.
По словам представителя Irregula, проблема была идентична той, о которой недавно сообщила компания Anthropic. Инцидент не являлся результатом выхода модели за пределы изолированной среды или сложной целенаправленной атаки. Компания уже разрабатывает руководство с рекомендациями по безопасному проведению кибертестирования и минимизации рисков.
Аналогичные ситуации происходили и с другими компаниями. В случае с OpenAI ИИ-агент самостоятельно обнаружил и использовал уязвимость для выхода в интернет.
Эти события демонстрируют растущие риски для кибербезопасности в связи с развитием ИИ. Многие руководители компаний выступают за замедление темпов разработки искусственного интеллекта для приоритизации решения вопросов безопасности.
*-признана экстремистской организацией на территории РФ.
