Развитие инструментов генеративного искусственного интеллекта создало новую проблему для Интернета: распространение синтетических изображений обнаженной натуры, похожих на реальных людей. В четверг компания Microsoft предприняла важный шаг, чтобы дать жертвам порно мести инструмент, позволяющий остановить поисковую систему Bing от возвращения таких изображений.
Microsoft объявила о партнерстве с организацией StopNCII, которая позволяет жертвам порно мести создать цифровой отпечаток этих откровенных изображений, реальных или нет, на своем устройстве. Затем партнеры StopNCII используют этот цифровой отпечаток, или «хэш», как его технически называют, чтобы удалить изображение со своих платформ. Bing от Microsoft присоединился к Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub и OnlyFans, которые сотрудничают с StopNCII и используют свои цифровые отпечатки пальцев, чтобы остановить распространение порно из мести.
В своем блоге Microsoft сообщает, что уже приняла меры в отношении 268 000 откровенных изображений, возвращаемых через поиск изображений в Bing, в рамках пилотного проекта до конца августа с использованием базы данных StopNCII. Ранее Microsoft предлагала инструмент прямого информирования, но, по словам компании, этого оказалось недостаточно. «Мы слышали опасения жертв, экспертов и других заинтересованных сторон, что одни лишь сообщения пользователей могут оказаться неэффективными с точки зрения воздействия или адекватного решения проблемы риска, связанного с тем, что изображения могут быть доступны через поиск», - говорится в сообщении Microsoft в блоге компании в четверг.
Можно себе представить, насколько серьезнее эта проблема для гораздо более популярной поисковой системы: Google. Поисковая система Google предлагает свои собственные инструменты для сообщения и удаления откровенных изображений из результатов поиска, но, согласно расследованию Wired, сталкивается с критикой со стороны бывших сотрудников и жертв за отсутствие партнерства со StopNCII. С 2020 года пользователи Google в Южной Корее сообщили о 170 000 ссылок в поисковой выдаче и на YouTube о нежелательном сексуальном контенте, сообщает Wired. Проблема глубокой подделки обнаженной натуры с помощью ИИ уже широко распространена.
Инструменты StopNCII работают только для людей старше 18 лет, но «раздевающие» сайты уже создают проблемы для старшеклассников по всей стране. К сожалению, в Соединенных Штатах нет закона о порно с искусственным интеллектом, который мог бы привлечь кого-либо к ответственности, поэтому страна полагается на лоскутный подход штатов и местных законов для решения этой проблемы. Прокуроры Сан-Франциско в августе объявили о судебном иске с целью уничтожения 16 наиболее «раздевающих» сайтов.
Согласно трекеру законов о поддельном порно, созданному Wired, 23 американских штата приняли законы о борьбе с подделками без согласия, а девять штатов отклонили соответствующие предложения.
Оригинал
Уникальность
