Индия потребовала от компании Илона Маска X внести немедленные технические и процедурные изменения в её чат‑бот с ИИ Grok после того, как пользователи и законодатели указали на генерацию «непристойного» контента, включая изменённые с помощью ИИ изображения женщин.
В пятницу Министерство информационных технологий Индии издало распоряжение, предписывающее X принять корректирующие меры в отношении Grok, включая ограничение генерации контента, связанного с «наготой, сексуализацией, откровенно сексуальными или иными незаконными материалами». Министерство также дало социальной платформе 72 часа на предоставление отчёта о предпринятых действиях, в котором должны быть указаны шаги по предотвращению размещения или распространения контента, признанного «непристойным, порнографическим, вульгарным, неприличным, откровенно сексуальным, педофильным или иным образом запрещённым законом».
В распоряжении, с которым ознакомился TechCrunch, говорится, что невыполнение требований может поставить под угрозу «безопасную гавань» X — юридический иммунитет от ответственности за пользовательский контент по индийскому законодательству.
Этот шаг Индии последовал за жалобами пользователей, которые делились примерами того, как Grok изменял изображения людей — преимущественно женщин — чтобы они выглядели так, будто носят бикини. Это вызвало официальную жалобу парламентария Индии Приянки Чатурведи. Отдельные сообщения также указывали на случаи, когда чат‑бот генерировал сексуализированные изображения несовершеннолетних. X признала в пятницу, что это произошло из‑за недостатков в системе защиты. Эти изображения позже были удалены.
Однако изображения, созданные Grok и показывающие женщин в бикини посредством ИИ‑изменений, оставались доступными на X на момент публикации, как выяснил TechCrunch.
Новое распоряжение появилось спустя несколько дней после того, как Министерство информационных технологий Индии выпустило более широкую инструкцию для социальных платформ, напомнив им, что соблюдение местных законов, регулирующих непристойный и откровенно сексуальный контент, является обязательным условием для сохранения юридического иммунитета. В документе компании призывали усилить внутренние меры защиты и предупреждали, что их несоблюдение может повлечь юридические последствия по законам Индии об ИТ и уголовным нормам.
«Настоятельно повторяется, что несоблюдение вышеуказанных требований будет рассматриваться серьёзно и может привести к строгим юридическим последствиям для вашей платформы, её ответственных сотрудников и пользователей, нарушающих закон, без каких‑либо дополнительных уведомлений», — говорится в распоряжении.
Правительство Индии заявило, что несоблюдение может привести к действиям против X в рамках индийского законодательства об ИТ и уголовных статей.
Индия, один из крупнейших цифровых рынков мира, стала важным тестовым примером того, насколько далеко готовы зайти правительства, чтобы привлечь платформы к ответственности за контент, созданный ИИ. Любое ужесточение регулирования в стране может иметь последствия для глобальных технологических компаний, работающих в разных юрисдикциях.
Распоряжение появилось на фоне того, что X продолжает оспаривать отдельные аспекты индийских правил регулирования контента в суде, утверждая, что полномочия федерального правительства по удалению материалов могут быть чрезмерными, хотя платформа и выполняет большинство предписаний о блокировке. В то же время Grok всё чаще используется пользователями X для проверки фактов в реальном времени и комментариев к новостям, что делает его результаты более заметными — и более политически чувствительными — чем у отдельных инструментов ИИ.
X и xAI пока не ответили на запросы о комментарии по поводу распоряжения индийского правительства.
Оригинал
Уникальность
