Тысячи диалогов пользователей с чат-ботом Grok компании xAI Илона Маска оказались доступны через поисковые системы, сообщает TechCrunch со ссылкой на Forbes.
Каждый раз, когда пользователь нажимает кнопку «Поделиться» в разговоре с Grok, создаётся уникальный URL, который можно отправить по электронной почте, в мессенджере или разместить в соцсетях.
Эти ссылки с приватными диалогами могут индексироваться поисковыми роботами Google, Bing и DuckDuckGo, появляясь в результатах поиска. Аналогичные функции недавно затронули пользователей чат-ботов Meta и OpenAI. В случае с Grok это привело к утечке диалогов с потенциально небезопасным содержанием: среди них были запросы о взломе криптокошельков, откровенные беседы с ИИ-персонажами и инструкции по синтезу запрещённых препаратов.
Правила использования xAI запрещают применять бота для действий, опасных для жизни человека, а также для разработки биологического, химического оружия или других видов массового поражения. Тем не менее пользователи направляли соответствующие запросы к Grok, а часть диалогов оказалась в открытом доступе. Анализ показал, что бот предоставлял пошаговые инструкции по изготовлению запрещённых веществ, рекомендации по совершению суицида, советы по созданию взрывоопасных устройств и даже детальный план убийства Маска.
Представители xAI пока не прокомментировали ситуацию и не уточнили, с какого момента ссылки на диалоги начали индексироваться поисковыми системами. Ранее, в конце прошлого месяца, пользователи ChatGPT столкнулись с похожей проблемой — их переписки попадали в результаты Google, на что OpenAI ответила, что это был «кратковременный эксперимент».
В ответ на недавние сообщения в X (бывший Твиттер) от компании Маска появилось сообщение с фразой «Grok ftw», где утверждалось, что в xAI «нет функции "Поделиться"» и что «конфиденциальность является приоритетом».
Источник
Уникальность
