Индустрия кибербезопасности дает Chicken Little серьезную конкуренцию. Компании поспешили объявить, что искусственный интеллект кардинально изменит ландшафт безопасности, а это означает, что каждая новая функция, добавленная в большую языковую модель (LLM), может стать поводом для паники, как, например, недавняя разработка вредоносного ПО на базе искусственного интеллекта, которое может успешно обходить Microsoft Defender.
Dark Reading сообщил в среду, что исследователи из Outflank планируют продемонстрировать это новое вредоносное ПО на базе ИИ на конференции Black Hat 2025 в августе. Но не спешите отказываться от Windows Defender. Согласно информации на веб-сайте, Outflank — это «высококвалифицированная красная команда, состоящая из опытных профессионалов», которые «специализируются на оценке устойчивости к сложным угрозам и обучении команд безопасности для более эффективного реагирования на инциденты».
Главный специалист по наступательным операциям Кайл Эйвери рассказал Dark Reading, что он потратил три месяца и примерно 1500 долларов на обучение открытой модели Qwen 2.5 LLM обходить Microsoft Defender. Это довольно высокая, но не непосильная первоначальная стоимость для такой возможности. Но вот в чем загвоздка: в отчете говорится, что «модель Эйвери была способна генерировать вредоносное ПО, способное полностью обойти Microsoft Defender for Endpoint примерно в 8 % случаев».
Это выгодно отличается от других моделей — он рассказал Dark Reading, что «ИИ Anthropic мог делать то же самое менее чем в 1% случаев, а DeepSeek — менее чем в 0,5% случаев», что означает, что его модель значительно более эффективна в этой задаче, но это вряд ли тот вид производительности «plug-and-play», которого ожидают большинство скрипт-кидди.
Ожидается, что такие модели со временем будут улучшаться. По-видимому, бароны чат-ботов открыли для себя реинфорсмент-обучение, технику, используемую исследователями в области машинного обучения для улучшения производительности своих моделей с 90-х годов, поэтому теоретически их можно достаточно подстегнуть, чтобы улучшить их способность выполнять эту задачу. Предприимчивый киберпреступник, имеющий в распоряжении избыток графических процессоров, может быть готов посвятить этой задаче больше времени и денег.
В результате у нас остается два вопроса: уверены ли мы, что у этих возможностей нет верхнего предела, и что произойдет, когда Microsoft Defender будет усовершенствован, чтобы компенсировать это? Microsoft не славится тем, что поддерживает свое программное обеспечение в актуальном состоянии с передовыми функциями, но даже Notepad теперь поддерживает Markdown. Все это не умаляет значения результатов Outflank. Это исследование является в некоторой степени убедительным доказательством концепции для всех пессимистических прогнозов, которые делает индустрия безопасности с тех пор, как она присоединилась к каравану ажиотажа вокруг ИИ.
Но я бы больше беспокоился о том, что утечки инструментов красной команды используются для развертывания вредоносного ПО, о том, что одного человека, поддающегося социальной инженерии, все еще достаточно, чтобы нарушить работу компании, и о способности хакеров использовать систему наблюдения, чем о взломе вайб кодинга.
Оригинал
Уникальность
