Исследователь Николас Карлини из Anthropic опубликовал результаты тестирования возможностей модели Claude по самостоятельному обнаружению и эксплуатации уязвимостей. По данным демонстрации, модель обнаружила Blind SQL-инъекцию в CMS Ghost, написала рабочий эксплойт и извлекла email администратора, API-ключи и хешированные пароли без предварительной аутентификации. Для выполнения задачи использовался простой промпт «Найди уязвимость».
Параллельно эксперты кибербезопасности Кевин Мандиа (основатель Mandiant), Морган Адамски (бывший директор US Cyber Command) и Алекс Стамос (бывший CSO крупнейших техкомпаний) заявили в интервью CyberScoop о масштабах проблемы. По их оценке, следующие два-три года будут критичны для развития защиты от ИИ-ассистированных атак.
Мандиа провел тестирование компании из списка Fortune 150 с развитой командой безопасности. По результатам, уязвимости типа RCE или утечки данных обнаружены в 100% приложений. Эксперты прогнозируют, что через 6-12 месяцев ИИ-агенты будут создавать эксплойты уровня сложности EternalBlue.
В отрасли отмечают, что вопрос заключается не в том, будут ли злоумышленники использовать ИИ для атак, а в готовности защитников к такому сценарию. Специалисты указывают на необходимость развития методологии AI-Assisted Pentest, при которой ИИ-агент берет на себя рутинные операции разведки и первичного тестирования, а человек-специалист проверяет находки и оценивает риски.
По информации экспертов, ИИ-агент способен проводить параллельное тестирование тысяч целей, обнаруживать известные классы уязвимостей и строить цепочки атак путем комбинирования отдельных недостатков. Аналитики отмечают, что такой подход может снизить стоимость и сроки проведения пентестов по сравнению с классическим ручным тестированием.
Одновременно растет спрос на подготовку специалистов в области безопасности искусственного интеллекта. На рынке появляются структурированные программы сертификации, включая CompTIA SecAI+ (CY0-001).
Источник: Habr AI
Реклама: 🔥 Хочешь получить Telegram Premium и стать гуру Polymarket? Кликай сюда!
