Президент компании Signal Мередит Уиттакер предупредила в пятницу, что агентский искусственный интеллект может быть сопряжен с риском для конфиденциальности пользователей.
Выступая на конференции SXSW в Остине, штат Техас, сторонница безопасных коммуникаций назвала использование агентов ИИ «помещением вашего мозга в банку» и предупредила, что эта новая парадигма вычислений - когда ИИ выполняет задачи от имени пользователей - имеет «глубокие проблемы» как с конфиденциальностью, так и с безопасностью.
Уиттакер объяснил, что агенты ИИ рекламируются как способ повысить ценность вашей жизни, выполняя за пользователя различные онлайн-задачи. Например, ИИ-агенты смогут взять на себя такие задачи, как поиск концертов, бронирование билетов, внесение мероприятия в календарь и отправка сообщений друзьям о том, что оно забронировано.
«То есть мы можем просто положить свой мозг в банку, потому что эта штука сама все сделает, и нам не нужно будет ее трогать, верно?» - размышляет Уиттакер.
Затем она объяснила, какой доступ потребуется агенту ИИ для выполнения этих задач, включая доступ к нашему веб-браузеру и способ управления им, а также доступ к данным нашей кредитной карты для оплаты билетов, календарю и приложению для обмена сообщениями, чтобы отправить текст друзьям.
«Она должна быть способна управлять этим [процессом] во всей нашей системе с чем-то, похожим на права root, получая доступ к каждой из этих баз данных - вероятно, в открытом виде, потому что нет модели, позволяющей делать это в зашифрованном виде», - предупредил Уиттакер.
«А если речь идет о достаточно мощной... модели искусственного интеллекта, которая это делает, то это никак не может происходить на устройстве», - продолжила она. «Почти наверняка данные отправляются на облачный сервер, где они обрабатываются и отправляются обратно. Таким образом, существует глубокая проблема безопасности и конфиденциальности, которая преследует всю эту шумиху вокруг агентов и которая в конечном итоге грозит разрушить кровеносный барьер между уровнем приложений и уровнем ОС, объединив все эти отдельные сервисы [и] запутав их данные», - заключила Уиттакер.
По ее словам, если приложение для обмена сообщениями, например Signal, будет интегрировано с агентами искусственного интеллекта, это нарушит конфиденциальность ваших сообщений. Агент должен получить доступ к приложению, чтобы переписываться с вашими друзьями, а также получать данные, чтобы обобщать эти сообщения.
Ее комментарии последовали за высказываниями, которые она сделала ранее в ходе дискуссии о том, что индустрия ИИ была построена на модели наблюдения с массовым сбором данных. Она сказала, что парадигма «чем больше, тем лучше» - то есть чем больше данных, тем лучше - имеет потенциальные последствия, которые она не считает хорошими.
Уиттакер предупредила, что агентский ИИ еще больше подорвет приватность и безопасность во имя «волшебного бота-джинна, который позаботится о жизненных потребностях», - заключила она.
Оригинал
Уникальность
