Национальный интернет-цензор Коммунистической партии Китая (КПК) только что объявил, что весь контент, созданный искусственным интеллектом, должен будет иметь метки, которые явно увидит или услышит его аудитория, и встраиваться в метаданные. Администрация киберпространства Китая (CAC) только что опубликовала стенограмму вопросов и ответов (сродни FAQ) для СМИ о своих мерах по идентификации контента, созданного искусственным интеллектом, и синтетического контента [машинный перевод]. Первые признаки этого шага мы увидели в сентябре прошлого года, когда появился проект планов CAC.
Это постановление вступит в силу 1 сентября 2025 года и обяжет всех поставщиков услуг (т. е. ИИ LLM) «добавлять явные метки к сгенерированному и синтезированному контенту». Директива включает в себя все типы данных: текст, изображения, видео, аудио и даже виртуальные сцены. Кроме того, директива предписывает магазинам приложений проверять, соответствуют ли размещаемые в них приложения правилам.
Пользователи по-прежнему смогут запрашивать немаркированный контент, созданный ИИ, для «социальных и промышленных нужд». Однако приложение-генератор должно повторить это требование пользователю, а также зарегистрировать информацию, чтобы ее было легче отследить. Ответственность за добавление созданного ИИ ярлыка и метаданных ложится на плечи этого конечного пользователя - физического или юридического лица.
CAC также запрещает злонамеренное удаление, фальсификацию, подделку или сокрытие этих меток ИИ, включая предоставление инструментов, которые помогут осуществить эти действия. Хотя это, очевидно, означает, что вам запрещено удалять метку ИИ и метаданные на контенте, созданном ИИ, это также запрещает добавлять этот идентификатор к данным, созданным человеком.
CCP, через CAC, стремится контролировать распространение дезинформации и не допустить, чтобы интернет-пользователи были сбиты с толку контентом, созданным ИИ, посредством применения этого закона. На данный момент мы не видели никаких предписанных наказаний для нарушителей, но всегда существует угроза судебного преследования со стороны китайского правительства.
Это не первый закон, который пытается контролировать разработку и использование технологий искусственного интеллекта: в 2024 году в ЕС был принят закон об искусственном интеллекте. Многие могут негативно отреагировать на этот шаг CAC, тем более что он известен тем, что управляет Великим китайским файерволом для ограничения и контроля интернета в пределах границ Китая.
Тем не менее, этот шаг поможет уменьшить количество дезинформации, исходящей от всех и каждого, особенно по мере того, как ИИ LLM становятся все более совершенными. Обеспечив четкую маркировку искусственно созданного контента, люди смогут легче определить, смотрят ли они или слушают реальное событие или нечто, придуманное машиной на серверной ферме.
Оригинал
Уникальность
