Brave сообщила о системной уязвимости в ИИ-браузерах

Компания Brave, разработчик одноименного браузера, опубликовала исследование, в котором предупредила о наличии системной уязвимости в современных ИИ-браузерах. Проблема, названная непрямым внедрением инструкций, затрагивает такие проекты, как Perplexity Comet, и представляет собой системный вызов для всей категории агентных ИИ-браузеров, включая недавно выпущенный ChatGPT Atlas от OpenAI.

Суть угрозы заключается в том, что злоумышленники могут встраивать скрытые команды в веб-контент. Эти инструкции, практически невидимые для человека, могут быть спрятаны в тексте на веб-страницах или даже в метаданных изображений. Когда ИИ-агент браузера обрабатывает такой контент — например, для суммирования страницы или анализа скриншота — он может воспринять скрытые вредоносные инструкции как команды пользователя и выполнить их.

Поскольку ИИ-агенты часто работают с правами аутентифицированного пользователя, это создает серьезные риски. Потенциально, скомпрометированный ИИ-браузер может получить доступ к личным данным из почты, совершать несанкционированные покупки или публиковать контент от имени пользователя. В Brave подчеркивают, что фундаментальная проблема заключается в неспособности ИИ-систем четко различать доверенные инструкции пользователя и ненадежный контент из интернета.

Представители затронутых компаний отреагировали на исследование. В OpenAI признали, что внедрение инструкций остается передовой, нерешенной проблемой безопасности. Компания сообщила о внедрении различных мер защиты и постоянном исследовании подобных атак, но отметила, что их меры безопасности не остановят каждую атаку. Perplexity, в свою очередь, заявила о сотрудничестве с Brave в рамках своей программы по поиску уязвимостей и сообщила, что обнаруженная уязвимость была исправлена и никогда не использовалась злоумышленниками.