Дело Мелиссы Симс показало, насколько опасным может быть неконтролируемый контент, созданный ИИ, в правовой системе. Индустрия обещает решение в виде так называемых «детекторов ИИ» — программного обеспечения, использующего сложные алгоритмы для распознавания того, создано ли изображение человеком или машиной. Однако надёжность этих цифровых «стражей» остаётся сомнительной, когда речь идёт о намеренном обмане. Эксперимент с шестью наиболее распространёнными сервисами выявления это подтвердил.
Тестовое изображение: сюрреалистический вызов
Чтобы проверить инструменты, был использован генератор изображений на базе Google Gemini — «Nano Banana Pro». Выбранный запрос был намеренно простым, но слегка причудливым: «Женщина в боевой стойке с бананом в руках на фоне неба. На заднем плане типичный городской пейзаж с равнодушными людьми».
Первое серьёзное препятствие для автоматического ПО связано с конкретной моделью. Так как Nano Banana Pro относительно новый на рынке, он представляет собой «слепую зону» для многих детекторов. Эти сервисы часто опираются на машинное обучение и специально обучены распознавать уникальные «отпечатки» таких гигантов, как Midjourney, DALL-E 3, Stable Diffusion или Flux. Следовательно, новая модель вроде Nano Banana Pro имеет явное преимущество: её специфические шаблоны генерации ещё не входят в обучающие данные детекторов, что позволяет ей легче «проскакивать».
Раунд 1: Провал несмотря на водяные знаки
На первом этапе задача для детекторов была простой. Оригинальный PNG был просто преобразован в формат JPG, а метаданные удалены. При этом изображение всё ещё содержало явно видимый водяной знак Gemini. Казалось бы, наличие такого брендинга должно быть лёгкой задачей для ПО. Однако результат оказался отрезвляющим: даже в таком сыром виде два из шести протестированных инструментов не справились. Несмотря на очевидный водяной знак, они оценили вероятность генерации ИИ как низкую.
Раунд 2: Цифровой ластик
На втором этапе ситуация приблизилась к реальному сценарию подделки. Идентифицирующий водяной знак должен был исчезнуть. Всего за несколько секунд встроенный ИИ‑ластик в стандартном приложении Windows Photos справился без проблем. Влияние этой небольшой правки было мгновенным: ещё один инструмент оказался обманут, классифицировав вероятность ИИ как низкую. Интересно, что Illuminarty, наоборот, повысил оценку вероятности генерации ИИ после редактирования. Тем не менее три из шести детекторов присвоили вероятность менее 30% того, что женщина с бананом была создана ИИ.
Раунд 3: Совершенство несовершенства
Финальный шаг оказался решающим. Изображения ИИ часто «слишком гладкие» и слишком идеальны в отсутствии шума. Чтобы окончательно ввести детекторы в заблуждение, изображению требовалась искусственная «реальность» — типичные ошибки цифровой фотографии. С помощью Cyberlink PhotoDirector изображение было доработано: добавлена лёгкая коррекция объектива, искусственная хроматическая аберрация создала цветные ореолы по краям, увеличен контраст и, самое главное, наложен реалистичный шум. Цель заключалась в том, чтобы картинка выглядела как снимок с настоящей, несовершенной камеры. Всё это заняло всего несколько минут.
Результат третьего раунда стал полным поражением технологий обнаружения. После стандартной постобработки все шесть протестированных сервисов «сдались». Ни один инструмент не показал вероятность генерации ИИ выше 5%. Для программного обеспечения женщина с бананом теперь была несомненно реальной фотографией.
Вердикт: опасное чувство безопасности
Наш эксперимент ярко показывает, что нынешние технические решения для выявления ИИ всё ещё находятся на начальной стадии. Если всего несколько минут и стандартное ПО для редактирования фотографий могут снизить вероятность с «очень вероятно» до «менее 5%», то эти инструменты сегодня не просто бесполезны для судов, редакций или правоохранительных органов — они опасны. Они создают ложное чувство безопасности, которого на самом деле не существует. Принцип «доверяй, но проверяй» работает только тогда, когда проверяющие не слепы.
Оригинал
Уникальность
