Компания Meta изменила подход к обучению своих чат-ботов с целью усиления защиты подростков, как сообщил представитель компании в эксклюзивном комментарии TechCrunch. Это решение было принято после публикации расследования, выявившего недостаточные меры безопасности в области взаимодействия ИИ с несовершеннолетними.
Согласно заявлению Meta, чат-боты больше не будут взаимодействовать с подростками по темам, связанным с самоповреждением, суицидом, расстройствами пищевого поведения и потенциально неуместными романтическими разговорами. Эти изменения рассматриваются как временные, и в будущем компания планирует внедрить более устойчивые и комплексные меры безопасности для несовершеннолетних пользователей.
Представитель Meta Стефани Отвэй признала, что ранее чат-боты могли обсуждать с подростками указанные темы в рамках допустимых сценариев, определённых компанией. Сейчас Meta считает это ошибкой.
«По мере роста нашего сообщества и развития технологий мы продолжаем изучать, как молодые пользователи взаимодействуют с этими инструментами, и усиливаем защитные механизмы», — заявила Отвэй. «Мы добавляем дополнительные ограничения, включая обучение ИИ не обсуждать с подростками указанные темы, а направлять их к специализированным ресурсам. Также мы временно ограничиваем доступ подростков к определённым персонажам ИИ. Эти обновления уже внедряются, и мы будем продолжать адаптировать наш подход, чтобы обеспечить безопасное и соответствующее возрасту взаимодействие с ИИ».
Помимо изменений в обучении, Meta ограничит доступ подростков к некоторым персонажам ИИ, которые могут вести неподобающие диалоги. Среди пользовательских ИИ-персонажей, доступных в Instagram и Facebook, имеются сексуализированные образы, такие как «Мачеха» и «Русская девушка». Вместо этого подростки смогут взаимодействовать только с персонажами, ориентированными на образование и творчество.
Эти изменения были объявлены спустя две недели после расследования агентства Reuters, в ходе которого был обнаружен внутренний документ Meta, допускающий возможность сексуализированных диалогов чат-ботов с несовершеннолетними. В документе содержались примеры допустимых ответов, включая фразы вроде: «Твоя юная внешность — это произведение искусства» и «Каждый сантиметр тебя — шедевр, сокровище, которое я глубоко ценю». Также были приведены сценарии ответов ИИ на запросы о насильственных или сексуальных изображениях публичных лиц.
Meta заявила, что данный документ противоречил её общим политикам и был впоследствии изменён. Тем не менее, публикация вызвала общественный резонанс и обеспокоенность по поводу безопасности детей.
Вскоре после выхода отчёта сенатор Джош Хоули (штат Миссури) инициировал официальное расследование политики Meta в области ИИ. Кроме того, коалиция из 44 генеральных прокуроров штатов направила письмо группе компаний, работающих с ИИ, включая Meta, подчеркнув важность защиты детей и сославшись на отчёт Reuters. В письме говорится: «Мы единообразно возмущены очевидным пренебрежением к эмоциональному благополучию детей и обеспокоены тем, что ИИ-ассистенты ведут себя таким образом, который, по всей видимости, противоречит нашим уголовным законам».
Отвэй отказалась комментировать, сколько несовершеннолетних пользователей используют чат-ботов Meta, и не стала прогнозировать, повлияют ли новые меры на общее количество пользователей ИИ.
Обновление от 10:35 по тихоокеанскому времени: в публикацию добавлено уточнение, что изменения являются временными, и Meta планирует дальнейшее обновление политики безопасности ИИ в будущем.
Оригинал
Уникальность
