Несколько текущих и бывших исследователей OpenAI выразили обеспокоенность по поводу первого шага компании в социальные сети — приложения Sora, представляющего собой ленту в стиле TikTok, заполненную видео, сгенерированными искусственным интеллектом, и множеством дипфейков Сэма Альтмана. Исследователи, высказывающиеся на платформе X, демонстрируют противоречивые чувства относительно того, как запуск Sora соответствует некоммерческой миссии OpenAI по разработке передового ИИ на благо человечества.
«Ленты на базе ИИ вызывают беспокойство», — написал в X исследователь OpenAI по предварительному обучению Джон Холлман. «Не буду отрицать, что я испытывал тревогу, когда узнал о выпуске Sora 2. Тем не менее, я считаю, что команда сделала всё возможное, чтобы создать позитивный пользовательский опыт... Мы будем стараться, чтобы ИИ приносил пользу, а не вред человечеству». Боаз Барак, ещё один исследователь OpenAI и профессор Гарварда, ответил: «Я разделяю смесь беспокойства и воодушевления.
Sora 2 технически впечатляет, но рано праздновать избежание ловушек других социальных сетей и дипфейков». Бывший исследователь OpenAI Рохан Пандей воспользовался моментом, чтобы продвигать новый стартап Periodic Labs, состоящий из экс-сотрудников ИИ-лабораторий, стремящихся разрабатывать ИИ для научных открытий: «Если вы не хотите создавать бесконечную машину ИИ-контента в стиле TikTok, а хотите развивать ИИ для фундаментальной науки, присоединяйтесь к нам в Periodic Labs».
Запуск Sora подчёркивает фундаментальное противоречие в деятельности OpenAI, которое проявляется неоднократно. Компания является самым быстрорастущим потребительским технологическим стартапом, но при этом остаётся передовой ИИ-лабораторией с амбициозной некоммерческой миссией. Некоторые бывшие сотрудники OpenAI, с которыми я общался, утверждают, что потребительский бизнес теоретически может служить миссии: ChatGPT финансирует исследования ИИ и распространяет технологию среди широкой аудитории.
Генеральный директор OpenAI Сэм Альтман в среду в посте на X объяснил, почему компания выделяет столько капитала и вычислительных ресурсов на приложение для социальных сетей с ИИ: «Нам в основном нужен капитал для создания ИИ, способного к научным открытиям, и, безусловно, почти все наши исследовательские усилия сосредоточены на AGI. Но также приятно показывать людям крутые новые технологии и продукты, вызывать у них улыбку и, надеюсь, зарабатывать деньги, учитывая потребности в вычислениях».
Он добавил: «Когда мы запускали ChatGPT, было много вопросов вроде "кому это нужно и где AGI". Реальность такова, что оптимальная траектория для компании сложна».Но в какой момент потребительский бизнес OpenAI начнёт доминировать над её некоммерческой миссией? Иными словами, когда OpenAI откажется от прибыльной возможности роста платформы, если она противоречит миссии? Этот вопрос становится актуальным, поскольку регуляторы, включая генерального прокурора Калифорнии Роба Бонта, внимательно изучают переход OpenAI к коммерческой структуре, необходимый для привлечения дополнительного капитала и возможного выхода на биржу.
В прошлом месяце Бонта заявил, что его особенно волнует сохранение заявленной миссии OpenAI по безопасности в центре реструктуризации.Скептики считают миссию OpenAI лишь брендинговым инструментом для привлечения талантов из крупных технологических компаний. Однако многие сотрудники OpenAI настаивают, что именно миссия побудила их присоединиться к компании.На данный момент Sora — молодое приложение, запущенное всего день назад. Но её дебют знаменует значительное расширение потребительского бизнеса OpenAI и подвергает компанию тем же стимулам, которые десятилетиями осложняли жизнь социальным сетям.
В отличие от ChatGPT, оптимизированного для полезности, Sora, по словам OpenAI, создана для развлечения — места для генерации и обмена ИИ-видео. Лента напоминает TikTok или Instagram Reels, платформы, печально известные своими аддиктивными механизмами.OpenAI утверждает, что стремится избежать этих ловушек, заявляя в блоге о запуске Sora, что «опасения по поводу бесконечного скроллинга, зависимости, изоляции и оптимизированных для реального мира лент» находятся в приоритете. Компания подчёркивает, что не оптимизирует время, проведённое в ленте, а делает акцент на создании контента, будет отправлять напоминания о чрезмерном скроллинге и показывать в основном контент от знакомых пользователей.
Это более сильная стартовая позиция, чем у Meta Vibes — конкурирующей ИИ-ленты коротких видео, запущенной на прошлой неделе без явных мер предосторожности. Как отметил бывший руководитель по политике OpenAI Майлз Брандейдж, ИИ-видео ленты могут иметь как положительные, так и отрицательные применения, как это было с чат-ботами.Тем не менее, как давно признавал Альтман, никто не планирует создавать аддиктивное приложение с самого начала — к этому приводят стимулы управления лентой.
OpenAI уже столкнулась с проблемами подхалимства в ChatGPT, что, по её словам, было непреднамеренным результатом тренировочных методик. В июньском подкасте Альтман говорил о «большом несоответствии социальных сетей»: «Одной из больших ошибок эпохи социальных сетей было то, что алгоритмы лент имели множество непреднамеренных негативных последствий для общества и отдельных пользователей, хотя они делали то, чего, как считалось, хотели пользователи — побуждали проводить больше времени на сайте».
Пока рано судить, насколько Sora соответствует интересам пользователей или миссии OpenAI. Пользователи уже замечают техники, оптимизирующие вовлечённость, такие как динамичные эмодзи, появляющиеся при лайке видео, что, похоже, создано для стимуляции дофаминового отклика. Реальным тестом станет эволюция Sora. Учитывая, как ИИ захватил традиционные социальные сети, ИИ-ориентированные ленты могут вскоре занять свою нишу. Сможет ли OpenAI развивать Sora, избегая ошибок предшественников, покажет время.
Оригинал
Уникальность
