Исследователи из MemTensor, HONOR Device и Tongji University разработали MemPrivacy — фреймворк для защиты пользовательских данных в облачных системах памяти, используемых ИИ-агентами.
Фреймворк решает проблему конфликта между полезностью облачной памяти и приватностью данных. По мере внедрения LLM-агентов в производство облачные системы памяти становятся более функциональными, но одновременно увеличивают риск утечки личной информации пользователей.
MemPrivacy использует локальную обратимую псевдонимизацию данных. Метод позволяет преобразовывать чувствительную информацию на устройстве пользователя перед отправкой в облако, сохраняя при этом возможность системы использовать эти данные для выполнения задач.
По информации разработчиков, подход обеспечивает баланс между защитой приватности и сохранением функциональности памяти. Система позволяет облачным сервисам работать с преобразованными данными без доступа к исходной информации.
Фреймворк предназначен для LLM-агентов, которые требуют долгосрочного хранения контекста пользовательских взаимодействий. Разработчики отмечают, что специалисты по безопасности остаются ответственными за настройку и мониторинг системы защиты.
Исследование представляет подход к решению проблемы приватности в облачных ИИ-системах на этапе их массового внедрения в коммерческие приложения.
Источник: Marktechpost
Реклама: 🔥 Хочешь получить Telegram Premium и стать гуру Polymarket? Кликай сюда!
