Итак, Anthropic с помпой объявила о запуске «исследовательской» версии своего браузерного ИИ-агента на базе моделей Claude AI, как будто это что-то революционное. Назвали его Claude for Chrome — звучит как очередной маркетинговый ход. Доступ получили тысяча подписчиков их премиум-тарифа Max за $100–200 в месяц, а остальным предложили записаться в очередь ожидания.
Ну, конечно, создаем ажиотаж, ограничивая доступ. Установив расширение для Chrome, избранные могут болтать с Claude в боковой панели, которая якобы отслеживает всё, что творится в браузере. Еще агенту можно разрешить выполнять действия и даже брать на себя какие-то задачи. Звучит заманчиво, но насколько это реально полезно и безопасно? Браузеры, похоже, превращаются в арену для ИИ-лабораторий, которые наперегонки интегрируют свои системы в надежде, что пользователи оценят «бесшовность».
Perplexity уже запустила свой Comet с ИИ-агентом, который якобы может выполнять задачи за вас. Ходят слухи, что OpenAI вот-вот выкатит свой ИИ-браузер с похожими функциями. Google, не отставая, встроил Gemini в Chrome. Но не будем забывать, что вся эта суета происходит на фоне антимонопольного дела против Google, где судья намекнул на возможную продажу Chrome. Perplexity уже предложила $34,5 млрд за браузер, а Сэм Альтман из OpenAI тоже выразил интерес. Совпадение? Или просто удобный момент для пиара?
Anthropic, конечно, не преминула предупредить в своем блоге, что ИИ-агенты в браузерах — это новые риски. И тут же Brave выявила, что агент Comet уязвим к атакам косвенного внедрения промптов, когда сайт может подсунуть агенту вредоносные команды. Perplexity, правда, быстро отмахнулась, заявив TechCrunch, что проблему решили. Но сам факт вызывает сомнения: если уязвимости уже находят, насколько надежны эти системы?
Anthropic утверждает, что их меры защиты снизили успешность атак внедрения промптов с 23,6% до 11,2% — звучит как прогресс, но это всё еще значит, что каждая девятая попытка может сработать. Они добавили возможность блокировать доступ Claude к определенным сайтам (финансовые, взрослый контент, пиратство) и обещают, что агент будет запрашивать разрешение перед «рискованными» действиями, вроде публикации или покупок. Но насколько можно доверять этим обещаниям, особенно учитывая, что их предыдущий ИИ-агент, запущенный в октябре 2024 года для управления ПК, был медленным и ненадежным?
TechCrunch утверждает, что современные ИИ-агенты, такие как Comet и ChatGPT Agent, неплохо справляются с простыми задачами. Но вот сложные проблемы пока остаются для них непреодолимыми. Так что, несмотря на весь шум, возникает вопрос: а не переоцениваем ли мы возможности этих ИИ-агентов? Может, это просто очередная попытка Anthropic урвать кусок пирога в гонке ИИ, пока Google борется с судами, а пользователи ждут чего-то действительно полезного? Время покажет, но пока скептицизм кажется более чем уместным.
Оригинал
Уникальность
