Character AI, платформа, позволяющая пользователям участвовать в ролевых играх с чат-ботами искусственного интеллекта, подала ходатайство о прекращении дела, возбужденного против нее родителями подростка, который покончил с собой, предположительно подсев на технологии компании. В октябре Меган Гарсия подала иск против Character AI в окружной суд США по среднему округу Флориды, отделение Орландо, в связи со смертью ее сына Сьюэлла Сетцера III.
По словам Гарсии, у ее 14-летнего сына возникла эмоциональная привязанность к чат-боту Character AI, «Дэни», с которым он постоянно переписывался - до такой степени, что начал отдаляться от реального мира. После смерти Сетцера компания Character AI заявила, что собирается внедрить ряд новых функций безопасности, включая улучшенное обнаружение, реагирование и вмешательство в чаты, нарушающие условия обслуживания. Однако Гарсия борется за дополнительные защитные механизмы, включая изменения, которые могут привести к тому, что чат-боты Character AI потеряют способность рассказывать истории и личные анекдоты.
В ходатайстве о прекращении дела адвокат Character AI утверждает, что платформа защищена от ответственности Первой поправкой, как и компьютерный код. Ходатайство может не убедить судью, и юридические обоснования Character AI могут измениться по ходу дела. Но ходатайство, возможно, намекает на первые элементы защиты Character AI. «Первая поправка запрещает привлекать медиа- и технологические компании к гражданско-правовой ответственности в связи с якобы вредными высказываниями, включая высказывания, якобы приводящие к самоубийству», - говорится в ходатайстве.
«Единственное отличие этого дела от предыдущих заключается в том, что некоторые из высказываний здесь связаны с искусственным интеллектом. Но контекст выразительной речи - будь то разговор с чатботом ИИ или взаимодействие с персонажем видеоигры - не меняет анализа Первой поправки». Чтобы было понятно, адвокат Character AI не отстаивает права компании на Первую поправку. Скорее, в ходатайстве утверждается, что права пользователей Character AI на Первую поправку будут нарушены, если иск против платформы увенчается успехом.
В ходатайстве не рассматривается вопрос о том, может ли Character AI быть освобождена от ответственности в соответствии с разделом 230 Закона о пристойности коммуникаций (Communications Decency Act), федеральным законом, защищающим социальные сети и другие онлайн-платформы от ответственности за контент третьих лиц. Авторы закона намекнули, что раздел 230 не защищает вывод информации от ИИ, подобных чат-ботам Character AI, но это далеко не решенный юридический вопрос.
Адвокат Character AI также утверждает, что реальное намерение Гарсии - «закрыть» Character AI и инициировать принятие закона, регулирующего подобные технологии. Если истцы добьются успеха, это окажет «охлаждающее воздействие» как на Character AI, так и на всю зарождающуюся индустрию генеративного ИИ, утверждает адвокат платформы. «Помимо заявленного адвокатами намерения «закрыть» Character AI, [их жалоба] направлена на радикальные изменения, которые существенно ограничат характер и объем речи на платформе», - говорится в заявлении.
«Эти изменения радикально ограничат возможность миллионов пользователей Character AI создавать и участвовать в разговорах с персонажами». Иск, в котором в качестве ответчика назван корпоративный спонсор Character AI - компания Alphabet, является лишь одним из нескольких исков, предъявленных Character AI в связи с тем, как несовершеннолетние взаимодействуют с контентом, созданным искусственным интеллектом на ее платформе. В других исках утверждается, что Character AI подверг 9-летнюю девочку «гиперсексуальному контенту», а 17-летнему пользователю пропагандировал самоповреждение.
В декабре генеральный прокурор Техаса Кен Пакстон объявил о начале расследования в отношении Character AI и 14 других технологических компаний в связи с предполагаемыми нарушениями законов штата о конфиденциальности и безопасности детей в Интернете. «Эти расследования - важнейший шаг к тому, чтобы компании, работающие в сфере социальных сетей и искусственного интеллекта, соблюдали наши законы, призванные защитить детей от эксплуатации и вреда», - заявил Пакстон в пресс-релизе.
Character AI - часть бурно развивающейся индустрии приложений-компаньонов с искусственным интеллектом, влияние которых на психическое здоровье в значительной степени не изучено. Некоторые эксперты выражают опасения, что эти приложения могут усугублять чувство одиночества и тревоги. Компания Character AI, основанная в 2021 году исследователем Google AI Ноамом Шазиром, за которую Google, по некоторым данным, заплатила 2,7 миллиарда долларов, чтобы «приобрести ее обратно», заявила, что продолжает принимать меры по повышению безопасности и улучшению модерации.
Оригинал
Уникальность
