Для борьбы с промпт-инъекциями, скрытыми в веб-страницах, Perplexity представила решение BrowseSafe

Чтобы обезопасить ИИ-браузеры от скрытых манипуляций, Perplexity разработала систему BrowseSafe. Проблема, которую она решает, — это «промпт-инъекции»: злоумышленники размещают команды для ИИ в невидимых частях веб-страниц (например, в HTML-комментариях). Поскольку ИИ «видит» весь исходный код, он может выполнить такую скрытую инструкцию. BrowseSafe выступает в роли фильтра, проверяющего весь входящий контент и отсекающего опасные вставки до их обработки моделью.

Для отладки подобных защит компания также выпустила открытый набор данных BrowseSafe-Bench, содержащий более 14 000 примеров атак. Это позволяет разработчикам тестировать и улучшать свои системы. Perplexity позиционирует BrowseSafe как ключевой элемент инфраструктуры для безопасного развития автономных ИИ-агентов, способных самостоятельно путешествовать по сети.