Энтузиаст X и акционер Reddit Сэм Альтман в понедельник поделился неожиданным прозрением: по его мнению, из-за ботов стало невозможно определить, написаны ли публикации в соцсетях реальными людьми. Это осознание пришло к нему во время чтения и репоста сообщений из сабреддита r/Claudecode, где активно хвалили OpenAI Codex — сервис программирования, запущенный в мае и конкурирующий с Claude Code от Anthropic.
В последнее время сабреддит заполнился постами от пользователей, утверждающих, что перешли на Codex, что даже вызвало шутку: «Можно ли перейти на Codex, не создавая тему на Reddit?» Это заставило Альтмана задуматься, сколько из этих сообщений написаны настоящими людьми. «У меня было странное ощущение при чтении: я предполагаю, что всё это фейк или боты, хотя знаю, что рост Codex реален», — признался он на X.
Он также попытался проанализировать причины своего восприятия: «Кажется, происходит сразу несколько вещей: реальные люди переняли особенности “языка LLM”, онлайн-сообщества ведут себя синхронно, хайп-циклы чередуются между “всё пропало” и “мы снова в деле”, платформы оптимизируют вовлечённость, что влияет на монетизацию контента, другие компании устраивали нам астротёрфинг, так что я стал особенно чувствителен к этому, ну и, вероятно, есть и боты».
Проще говоря, Альтман обвиняет людей в том, что они стали звучать как языковые модели, хотя сами LLM — включая разработки OpenAI — были созданы, чтобы имитировать человеческую речь. Модели OpenAI, безусловно, обучались на данных Reddit, где Альтман был членом совета директоров до 2022 года и оставался крупным акционером на момент IPO.
Он справедливо отмечает, что фанатские сообщества, особенно активные в соцсетях, склонны к странному поведению. Некоторые группы могут превращаться в очаги негатива, если в них преобладают пользователи, выражающие недовольство.
Альтман также критикует систему поощрений, при которой соцсети и создатели контента зависят от вовлечённости. Однако он признаёт, что подозревает наличие ботов в сабреддите из-за того, что OpenAI подвергалась астротёрфингу — когда конкуренты или их подрядчики оплачивают фальшивые посты, создавая видимость поддержки или критики.
Хотя доказательств астротёрфинга нет, известно, что после релиза GPT 5.0 сабреддиты OpenAI резко изменили тон. Вместо восторженных отзывов появилось множество негативных постов, критикующих личность модели и её неэффективное использование токенов. На следующий день после релиза Альтман провёл сессию AMA на r/GPT, где признал проблемы и пообещал улучшения. Однако сабреддит так и не вернулся к прежнему уровню поддержки — пользователи продолжают регулярно жаловаться на GPT 5.0. Возникает вопрос: это реальные люди или, как намекает Альтман, нечто иное?
Он подытоживает: «AI-Twitter и AI-Reddit сейчас ощущаются фальшивыми — совсем не так, как год или два назад». Если это правда, то кто виноват? Языковые модели стали настолько хороши в генерации текста, что превратились в проблему не только для соцсетей (где боты всегда были), но и для школ, журналистики и судебной системы.
Хотя точное количество бот-постов на Reddit неизвестно, вероятно, оно значительное. Компания Imperva сообщила, что более половины интернет-трафика в 2024 году было не от людей — в основном из-за LLM. По данным бота Grok от X: «Точные цифры не раскрываются, но оценки на 2024 год говорят о сотнях миллионов ботов на X».
Некоторые скептики предположили, что размышления Альтмана — это завуалированная попытка продвигать предполагаемую соцсеть от OpenAI. В апреле издание Verge сообщило, что такой проект находится на ранней стадии разработки и может стать конкурентом X и Facebook. Существует ли он — неизвестно. Были ли у Альтмана скрытые мотивы — тоже.
Но если OpenAI действительно создаёт соцсеть, каковы шансы, что она будет свободна от ботов? Иронично, но даже если запретить людей, результат может не сильно отличаться. Исследователи из Амстердамского университета создали соцсеть, полностью состоящую из ботов — и те вскоре начали формировать кланы и эхо-камеры.
Оригинал
УНикальность
