Генеральный директор OpenAI Сэм Альтман заявил, что человечество находится всего в нескольких годах от создания искусственного общего интеллекта, который сможет автоматизировать большую часть человеческого труда. Если это правда, то человечество также заслуживает понимания и права голоса в отношении людей и механизмов, стоящих за такой невероятной и дестабилизирующей силой.
Именно это является основной целью «The OpenAI Files», архивного проекта Midas Project и Tech Oversight Project, двух некоммерческих организаций, занимающихся мониторингом технологий. Файлы представляют собой «сборник задокументированных опасений по поводу практик управления, честности руководства и организационной культуры в OpenAI». Помимо повышения осведомленности, цель Файлов состоит в том, чтобы предложить OpenAI и другим лидерам в области ИИ путь вперед, ориентированный на ответственное управление, этическое лидерство и совместные выгоды.
«Структуры управления и честность руководства, определяющие такой важный проект, должны отражать масштаб и серьезность миссии», — говорится в разделе «Видение перемен» на веб-сайте. «Компании, лидирующие в гонке за AGI, должны придерживаться исключительно высоких стандартов и требовать их соблюдения».
До сих пор гонка за доминирование в области ИИ привела к грубому масштабированию — подходу «рост любой ценой», который заставил такие компании, как OpenAI, собирать контент без согласия для целей обучения и строить огромные центры обработки данных, которые вызывают перебои с электроснабжением и увеличивают расходы на электроэнергию для местных потребителей. Стремление к коммерциализации также заставило компании поставлять продукты до внедрения необходимых мер безопасности, поскольку давление со стороны инвесторов с целью получения прибыли усиливается.
Это давление со стороны инвесторов изменило основную структуру OpenAI. В документах OpenAI подробно описано, как в начале своей деятельности в качестве некоммерческой организации OpenAI первоначально ограничила прибыль инвесторов максимум 100-кратной суммой, чтобы все доходы от достижения AGI шли на благо человечества. С тех пор компания объявила о планах отменить это ограничение, признав, что внесла такие изменения, чтобы успокоить инвесторов, которые поставили условием финансирования проведение структурных реформ.
В файлах освещаются такие вопросы, как поспешные процессы оценки безопасности OpenAI и «культура безрассудства», а также потенциальные конфликты интересов членов совета директоров OpenAI и самого Альтмана. Они включают список стартапов, которые могут входить в инвестиционный портфель самого Альтмана и которые также имеют пересекающиеся с OpenAI направления деятельности.
Файлы также ставят под сомнение честность Альтмана, которая была предметом спекуляций с тех пор, как в 2023 году старшие сотрудники пытались сместить его с должности из-за «обманчивого и хаотичного поведения».
«Я не думаю, что Сэм — тот человек, который должен держать палец на кнопке AGI», — якобы сказал тогда Илья Суцкевер, бывший главный научный сотрудник OpenAI.
Вопросы и решения, поднятые в файлах OpenAI, напоминают нам, что огромная власть находится в руках немногих, при этом прозрачность и контроль над ней ограничены. Файлы дают возможность заглянуть в эту «черную коробку» и направлены на то, чтобы перевести дискуссию из плоскости неизбежности в плоскость ответственности.
Оригинал
Уникальность
