Крис Лехейн — мастер по устранению плохих новостей. Бывший пресс-секретарь Аль Гора во времена администрации Клинтона и главный кризисный менеджер Airbnb, справлявшийся с регуляторными проблемами от США до Брюсселя, Лехейн знает, как представить ситуацию в выгодном свете. Теперь, уже два года, он работает на, возможно, самой сложной должности в своей карьере — вице-президентом по глобальной политике в OpenAI. Его задача — убедить мир, что OpenAI искренне заботится о демократизации искусственного интеллекта, несмотря на то, что компания всё больше ведёт себя как типичный технологический гигант, который когда-то обещал быть иным.
На конференции Elevate в Торонто на этой неделе у меня было 20 минут на сцене с Лехейном, чтобы попытаться выйти за рамки заготовленных ответов и выявить противоречия, подтачивающие тщательно выстроенный имидж OpenAI. Это было непросто и не совсем удалось. Лехейн действительно хорош в своей работе: он обаятелен, звучит убедительно, признаёт неопределённость и даже говорит, что просыпается в 3 часа ночи, размышляя, принесёт ли всё это пользу человечеству.Но благие намерения мало значат, когда твоя компания вызывает критиков в суд, истощает воду и электроэнергию в экономически депрессивных городах и воскрешает мёртвых знаменитостей, чтобы укрепить рыночное доминирование.
Проблема с Sora лежит в основе всех остальных. Инструмент для генерации видео, запущенный на прошлой неделе, похоже, изначально включает в себя материалы, защищённые авторским правом. Это смелый шаг для компании, которую уже судят New York Times, Toronto Star и половина издательской индустрии. С точки зрения бизнеса и маркетинга это было гениально: приложение с доступом по приглашениям взлетело на вершину App Store, когда пользователи начали создавать цифровые версии себя, гендиректора OpenAI Сэма Альтмана, персонажей вроде Пикачу, Марио и Картмана из «Южного парка», а также мёртвых знаменитостей, таких как Тупак Шакур.
На вопрос, что побудило OpenAI выпустить новую версию Sora с этими персонажами, Лехейн ответил стандартно: Sora — это «технология общего назначения», подобная электричеству или печатному станку, которая демократизирует творчество для людей без таланта или ресурсов. Даже он сам, по его словам, «творческий ноль», теперь может создавать видео. Однако он обошёл стороной тот факт, что изначально OpenAI позволяла правообладателям отказываться от использования их работ для обучения Sora, что не соответствует обычной практике работы с авторскими правами. Затем, заметив популярность защищённых авторским правом изображений, компания перешла к модели opt-in.
Это не итерация, а скорее проверка, насколько далеко можно зайти. (И, кстати, хотя Ассоциация кинокомпаний США на прошлой неделе угрожала судебными исками, OpenAI, похоже, многое себе позволила.)Естественно, это вызывает раздражение издателей, которые обвиняют OpenAI в использовании их контента для обучения без разделения прибыли.
Когда я нажал на Лехейна по поводу того, что издатели остаются без экономической выгоды, он сослался на доктрину fair use, которая в США якобы балансирует права создателей и общественный доступ к знаниям, назвав её секретным оружием технологического доминирования США. Возможно. Но я недавно брал интервью у Аль Гора, бывшего босса Лехейна, и понял, что любой может просто спросить ChatGPT об этом вместо чтения моей статьи на TechCrunch. «Это итеративно», — сказал я, — «но это также замена».
Впервые Лехейн отошёл от заготовленного сценария: «Нам всем придётся это решить. Легко сидеть на сцене и говорить, что нужны новые модели дохода, но я думаю, мы их найдём». (Иными словами, мы импровизируем.)Ещё одна тема, на которую никто не хочет отвечать честно, — инфраструктура. OpenAI уже управляет кампусом дата-центров в Абилене, Техас, и недавно начала строительство огромного дата-центра в Лордстауне, Огайо, в партнёрстве с Oracle и SoftBank. Лехейн сравнил доступ к ИИ с появлением электричества, отметив, что те, кто получил его последними, до сих пор догоняют. Но проект Stargate от OpenAI, похоже, нацелен на те же экономически слабые регионы для размещения объектов, потребляющих огромное количество воды и электроэнергии.
На вопрос, принесёт ли это пользу местным сообществам или они просто оплатят счёт, Лехейн заговорил о гигаваттах и геополитике. OpenAI нужно около 1 гигаватта энергии в неделю, отметил он. Для сравнения, Китай в прошлом году ввёл в строй 450 гигаватт и 33 ядерных объекта. Если демократии хотят демократический ИИ, они должны конкурировать. «Оптимист во мне говорит, что это модернизирует наши энергосистемы», — сказал он, рисуя картину возрождённой индустриальной Америки с обновлёнными электросетями.
Это вдохновляет, но не отвечает на вопрос, вырастут ли счета за коммунальные услуги у жителей Лордстауна и Абилена, пока OpenAI генерирует видео с Джоном Кеннеди и The Notorious B.I.G. (Генерация видео — самый энергоёмкий процесс в ИИ.)Самый неприятный пример: накануне нашего интервью Зельда Уильямс умоляла в Instagram незнакомцев прекратить присылать ей сгенерированные ИИ видео с её покойным отцом, Робином Уильямсом. «Вы не создаёте искусство, — написала она, — вы делаете отвратительные, переработанные хот-доги из жизней людей».
Когда я спросил, как OpenAI совмещает такой личный вред со своей миссией, Лехейн говорил о процессах: ответственном дизайне, тестировании и партнёрстве с правительствами. «Для этого нет готового сценария, верно?»Лехейн проявил уязвимость, признав, что просыпается в 3 часа ночи, беспокоясь о демократизации, геополитике и инфраструктуре.
«С этим связаны огромные обязанности». Я верю ему. Но в пятницу произошло кое-что ещё. Нейтан Келвин, юрист из некоммерческой организации Encode AI, занимающейся политикой ИИ, рассказал, что, пока я говорил с Лехейном в Торонто, OpenAI отправила шерифа к его дому в Вашингтоне во время ужина, чтобы вручить повестку. Они требовали его личные переписки с законодателями Калифорнии, студентами и бывшими сотрудниками OpenAI.Келвин обвиняет OpenAI в тактике запугивания в связи с новым законом об ИИ, SB 53 в Калифорнии.
Он утверждает, что компания использовала судебный спор с Илоном Маском как предлог для давления на критиков, намекая, что Encode тайно финансируется Маском. Келвин говорит, что боролся с противодействием OpenAI этому закону о безопасности ИИ и рассмеялся, когда компания заявила, что «работала над улучшением законопроекта». В соцсетях он назвал Лехейна «мастером тёмных политических искусств». В Вашингтоне это, возможно, комплимент, но для компании, миссия которой — «создавать ИИ на благо всего человечества», это звучит как обвинение.
Ещё более важно, что даже сотрудники OpenAI испытывают внутренние противоречия. Как сообщил мой коллега Макс на прошлой неделе, после релиза Sora 2 ряд текущих и бывших сотрудников выразили в соцсетях свои сомнения. Боаз Барак, исследователь OpenAI и профессор Гарварда, написал, что Sora 2 «технически впечатляет, но рано поздравлять себя с избеганием ловушек других соцсетей и дипфейков». В пятницу Джош Ачиам, глава отдела миссии OpenAI, сделал ещё более поразительное заявление, отметив, что его слова «могут поставить под угрозу всю карьеру».
Он написал: «Мы не можем делать вещи, которые превращают нас в пугающую силу вместо добродетельной. У нас есть долг и миссия перед всем человечеством. Порог для выполнения этого долга невероятно высок».Это нечто. Исполнительный директор OpenAI, публично задающийся вопросом, не становится ли его компания «пугающей силой вместо добродетельной», — это не конкурент, стреляющий в упор, и не репортёр, задающий вопросы. Это человек, выбравший работу в OpenAI, верящий в её миссию, и теперь признающий кризис совести, несмотря на профессиональные риски.
Это ключевой момент. Можно быть лучшим политическим оператором в технологической индустрии, мастерски справляться с невозможными ситуациями, но всё равно работать в компании, чьи действия всё больше противоречат заявленным ценностям. И эти противоречия могут только усилиться, пока OpenAI стремится к искусственному общему интеллекту. Настоящий вопрос не в том, сможет ли Крис Лехейн продать миссию OpenAI. Вопрос в том, верят ли в неё другие — и, что критично, верят ли в неё сотрудники самой компании.
Оригинал
Уникальность
