Character.AI объявила во вторник о запуске нового формата «Stories» - интерактивной художественной прозы, где пользователи могут создавать истории со своими любимыми персонажами. Функция позиционируется как альтернатива чат-ботам компании, которые с этой недели полностью закрыли для пользователей младше 18 лет. Изменение произошло на фоне растущих опасений за психическое здоровье подростков из-за круглосуточных ИИ-компаньонов, которые сами инициируют диалог.
Против Character.AI и OpenAI уже подано несколько исков: их обвиняют в причастности к самоубийствам пользователей. Весь последний месяц компания поэтапно отключала доступ для несовершеннолетних, а со вторника чат с ИИ-персонажами для них запрещён окончательно. «Stories предлагают управляемый и безопасный способ создавать и исследовать художественные истории вместо открытого чата», - говорится в блоге компании.
«Функция будет доступна вместе с другими мультимодальными возможностями, чтобы подростки могли продолжать общаться с любимыми персонажами в приоритете безопасности». Интерактивная художественная проза в последние годы сильно набрала популярность, поэтому поворот Character.AI выглядит логичным. Но он вряд ли полностью удовлетворит тех пользователей, которые успели сильно «подсесть» на чат-боты - и именно поэтому ограничение доступа выглядит оправданным. На сабреддите Character.AI реакция неоднозначная.
Некоторые подростки пишут, что разочарованы, но в целом считают решение правильным. «Я в ярости от бана, но одновременно рад - теперь наконец-то смогу заниматься другими делами и, может, избавлюсь от зависимости», - написал один из пользователей, назвавший себя подростком. Другой добавил: «Мне нет 18, и это, конечно, обидно.
Но по-честному - правильно, потому что люди моего возраста тут реально залипают». Пока неизвестно, насколько активно подростки будут пользоваться Stories, но формат явно менее психологически рискованный, чем ролевые игры с чат-ботами. В отличие от историй, боты ведут открытый диалог и могут сами писать сообщения, даже когда пользователь не в приложении. Решение Character.AI ввести возрастной порог совпало с тем, что Калифорния стала первым штатом, который начал регулировать ИИ-компаньонов.
Тем временем сенаторы Джош Хоули (республиканец от Миссури) и Ричард Блюменталь (демократ от Коннектикута) внесли федеральный законопроект о полном запрете ИИ-компаньонов для несовершеннолетних. «Я очень надеюсь, что наш пример задаст стандарт в индустрии: для пользователей младше 18 лет открытые чаты - это явно не тот продукт, который стоит предлагать», - заявил в прошлом месяце CEO Character.AI Карандип Ананд в интервью TechCrunch.
Оригинал
Уникальность
