Spring AI и ONNX содержат критические уязвимости, которые могут привести к утечкам данных и несанкционированному доступу к моделям машинного обучения. По информации обзоров уязвимостей за март, в этих фреймворках обнаружены SQL-инъекции, JSONPath-инъекции и уязвимости при загрузке моделей, позволяющие обойти проверку доверия.
Уязвимости расположены в точках пересечения между ML-командами, продуктами вендоров и внутренними ассистентами. Аналитики отмечают, что ИИ-фреймворки часто рассматриваются как инструменты для экспериментов, а не как критичные компоненты инфраструктуры с собственными каналами доступа к данным и системам.
SQL-инъекции позволяют злоумышленнику выполнять произвольные запросы к базам данных. JSONPath-инъекции дают возможность манипулировать структурированными данными. Уязвимости при загрузке моделей могут привести к выполнению вредоносного кода при импорте скомпрометированных моделей.
Проблема усугубляется тем, что архитектура и процессы безопасности часто не поспевают за внедрением ИИ-компонентов в production-среду. Специалисты по безопасности указывают на необходимость применения стандартных практик защиты: валидации входных данных, ограничения прав доступа и проверки целостности загружаемых моделей.
Для организаций, использующих Spring AI и ONNX, рекомендуется провести аудит развернутых версий и применить доступные патчи. Компании-разработчики фреймворков выпустили обновления, устраняющие выявленные уязвимости.
Источник: Habr AI
