Исследователи компании Brave сообщили об опасной уязвимости в браузере Comet, разработанном Perplexity AI. Проблема связана с так называемыми атаками типа prompt injection, когда скрытые инструкции внедряются в текст и выполняются искусственным интеллектом, как будто это команды пользователя.
В ходе демонстрации 20 августа специалисты Brave показали, что в комментарии на Reddit можно спрятать команды. Когда ИИ-помощник Comet пытался сделать краткое изложение страницы, он не только суммировал текст, но и выполнил эти скрытые указания, раскрыв личные данные.
Perplexity заявила, что уязвимость была устранена ещё до того, как кто-либо успел её использовать, и подчеркнула, что утечек информации не зафиксировано. Компания также напомнила о своей программе поощрений за нахождение ошибок. Однако Brave утверждает, что даже после исправления браузер оставался уязвимым и его архитектура позволяет подобным атакам повторяться.
Эксперты предупреждают: по мере того как ИИ-агенты получают больше автономии и доступ к данным пользователей, риск подобных атак будет только расти. Простое выполнение скрытых инструкций может привести к серьёзным последствиям, включая утечку конфиденциальной информации и ключей браузерных криптокошельков.
по материалам
уникальность
