Компания Microsoft подала судебный иск против группы лиц, которые, как утверждает компания, намеренно разработали и использовали инструменты для обхода защитных барьеров своих облачных продуктов ИИ.
Согласно жалобе, поданной компанией в декабре в окружной суд США по Восточному округу штата Вирджиния, группа из 10 неназванных ответчиков якобы использовала украденные учетные данные клиентов и разработанное на заказ программное обеспечение для взлома Azure OpenAI Service, полностью управляемого сервиса Microsoft, работающего на технологиях производителя ChatGPT - OpenAI.
В исковом заявлении Microsoft обвиняет ответчиков, которых она называет только «Доу», что является юридическим псевдонимом, в нарушении Закона о компьютерном мошенничестве и злоупотреблениях, Закона об авторском праве в цифровую эпоху и федерального закона о рэкете путем незаконного доступа и использования программного обеспечения и серверов Microsoft с целью «создания оскорбительного» и «вредного и незаконного контента». Microsoft не предоставила конкретных подробностей о созданном оскорбительном контенте.
Компания требует судебного запрета и «других справедливых» мер, а также возмещения ущерба.
В исковом заявлении Microsoft утверждает, что в июле 2024 года обнаружила, что учетные данные клиентов службы Azure OpenAI - в частности, API-ключи, уникальные строки символов, используемые для аутентификации приложения или пользователя - используются для создания контента, нарушающего политику приемлемого использования службы. Впоследствии, в ходе расследования, Microsoft обнаружила, что ключи API были украдены у платных клиентов, говорится в жалобе.
«Точный способ, которым ответчики получили все API-ключи, использованные для совершения неправомерных действий, описанных в этой жалобе, неизвестен, - говорится в жалобе Microsoft, - но похоже, что ответчики систематически занимались кражей API-ключей, что позволило им украсть API-ключи Microsoft у множества клиентов Microsoft».
Microsoft утверждает, что ответчики использовали украденные API-ключи Azure OpenAI Service, принадлежащие американским клиентам, для создания схемы «взлома как услуги». Согласно жалобе, для реализации этой схемы обвиняемые создали клиентский инструмент под названием de3u, а также программное обеспечение для обработки и маршрутизации сообщений от de3u к системам Microsoft.
De3u позволял пользователям использовать украденные API-ключи для генерации изображений с помощью DALL-E, одной из моделей OpenAI, доступных клиентам Azure OpenAI Service, без необходимости писать собственный код, утверждает Microsoft. De3u также пытался помешать службе Azure OpenAI Service пересмотреть подсказки, используемые для генерации изображений, говорится в жалобе, что может произойти, например, когда текстовая подсказка содержит слова, которые вызывают контент-фильтрацию Microsoft. Репо с кодом проекта de3u, размещенное на GitHub - компании, принадлежащей Microsoft, - на данный момент недоступно.
«Эти функции в сочетании с незаконным программным API-доступом ответчиков к сервису Azure OpenAI позволили ответчикам разработать средства обхода мер Microsoft по борьбе с контентом и злоупотреблениями», - говорится в жалобе. «Ответчики сознательно и намеренно получили доступ к защищенным компьютерам службы Azure OpenAl без разрешения, и в результате такого поведения нанесли ущерб и убытки».
В блоге, опубликованном в пятницу, Microsoft сообщает, что суд разрешил ей изъять веб-сайт, «имеющий важное значение» для деятельности ответчиков, что позволит компании собрать доказательства, расшифровать, как монетизируются предполагаемые услуги ответчиков, и вывести из строя любую дополнительную техническую инфраструктуру, которую она обнаружит.
Microsoft также заявила, что «ввела в действие контрмеры», которые компания не уточнила, и «добавила дополнительные меры безопасности» в службу Azure OpenAI, направленные на замеченную активность.
Оригинал
Уникальность
