OpenAI объявила в четверг, что временно приостановила возможность создания видеороликов с изображением покойного правозащитника Мартина Лютера Кинга-младшего с помощью своей модели ИИ-видео Sora. Компания добавила это ограничение по просьбе семьи Кинга после того, как некоторые пользователи Sora создали «неуважительные изображения» его образа.
«Хотя изображение исторических фигур имеет важное значение для свободы слова, OpenAI считает, что общественные деятели и их семьи должны иметь контроль над использованием их образа», — заявила OpenAI в публикации на X от имени своего официального аккаунта новостей. «Уполномоченные представители или владельцы наследства могут запросить, чтобы их образ не использовался в камео Sora».
Ограничение появилось спустя несколько недель после запуска OpenAI своей социальной видеоплатформы Sora, которая позволяет пользователям создавать реалистичные ИИ-видео с изображением исторических фигур, друзей или самих пользователей, согласившихся на воссоздание их образа. Запуск вызвал оживлённые общественные дискуссии о рисках ИИ-видео и о том, какие меры предосторожности должны применять платформы. Доктор Бернис Кинг, дочь Мартина Лютера Кинга, на прошлой неделе написала в Instagram, призывая людей прекратить присылать ей ИИ-видео с её отцом. Она присоединилась к дочери Робина Уильямса, которая также просила пользователей Sora перестать создавать ИИ-видео с её отцом.
The Washington Post сообщила ранее на этой неделе, что пользователи Sora создали ИИ-видео, на которых Мартин Лютер Кинг издаёт звуки, подобные обезьяньим, и борется с другим иконным правозащитником, Малкольмом Икс. Пролистывая приложение Sora от OpenAI, легко найти грубые видео с изображением других исторических фигур, включая художника Боба Росса, певицу Уитни Хьюстон и бывшего президента Джона Ф. Кеннеди.
Лицензиар наследства доктора Кинга не сразу ответил на запрос TechCrunch о комментариях.
Помимо вопросов о том, как Sora изображает людей, запуск платформы вызвал множество вопросов о том, как социальные сети должны обрабатывать ИИ-видео с произведениями, защищёнными авторским правом. Приложение Sora полно видео с изображением мультфильмов, таких как «Губка Боб», «Южный парк» и «Покемоны».
OpenAI добавила другие ограничения для Sora в недели после запуска. В начале октября компания заявила, что планирует предоставить правообладателям более детальный контроль над типами ИИ-видео, которые могут быть созданы с их образом. Это, возможно, было реакцией на первоначальное недовольство Голливуда по поводу Sora.
В то время как OpenAI вводит ограничения для Sora, компания, похоже, занимает более либеральную позицию в отношении модерации контента в ChatGPT. На этой неделе OpenAI объявила, что в ближайшие месяцы взрослым пользователям будет разрешено вести «эротические» чаты с ChatGPT.
С Sora OpenAI, похоже, сталкивается с вызовами, связанными с генерацией ИИ-видео. Некоторые исследователи OpenAI публично обсуждали вопросы о первой социальной платформе компании на основе ИИ в дни после её запуска и о том, как такой продукт соответствует миссии некоммерческой организации. Генеральный директор OpenAI Сэм Альтман сказал, что компания испытывала «трепет» по поводу запуска Sora.
Ник Тёрли, руководитель ChatGPT, ранее в этом месяце сказал мне, что лучший способ познакомить мир с новой технологией — это выпустить её в свет. Он отметил, что это то, что компания узнала с ChatGPT, и это же OpenAI узнаёт с Sora. Похоже, компания также учится, как распространять эту технологию.
Оригинал
Уникальность
