Компания Anthropic без лишнего шума удалила со своего сайта несколько добровольных обязательств, которые она взяла на себя совместно с администрацией Байдена в 2023 году, чтобы продвигать безопасный и «надежный» ИИ. Эти обязательства, включавшие обещания делиться информацией об управлении рисками ИИ в промышленности и правительстве, а также исследования о предвзятости и дискриминации ИИ, были удалены из центра прозрачности Anthropic на прошлой неделе, по данным группы наблюдателей за ИИ The Midas Project.
Другие обязательства времен Байдена, касающиеся сокращения сексуального насилия на основе изображений, создаваемых ИИ, остались. Anthropic, судя по всему, не уведомила об этом изменении. Компания не сразу ответила на просьбу о комментарии. Anthropic, наряду с такими компаниями, как OpenAI, Google, Microsoft, Meta и Inflection, объявила в июле 2023 года, что она согласилась придерживаться некоторых добровольных обязательств по безопасности ИИ, предложенных администрацией Байдена.
Эти обязательства включали в себя внутренние и внешние испытания систем ИИ на безопасность перед выпуском, инвестиции в кибербезопасность для защиты конфиденциальных данных ИИ и разработку методов водяных знаков для контента, созданного ИИ. К слову, компания Anthropic уже приняла на вооружение ряд практик, описанных в обязательствах, и соглашение не является юридически обязывающим.
Однако администрация Байдена намеревалась обозначить приоритеты своей политики в области ИИ в преддверии более исчерпывающего исполнительного указа по ИИ, который вступил в силу несколько месяцев спустя. Администрация Трампа заявила, что ее подход к управлению ИИ будет совершенно иным. В январе президент Трамп отменил вышеупомянутый указ об ИИ, который предписывал Национальному институту стандартов и технологий разработать руководство, помогающее компаниям выявлять и исправлять недостатки в моделях, включая предвзятость.
Критики, поддерживающие Трампа, утверждали, что требования к отчетности в указе были обременительными и фактически вынуждали компании раскрывать свои коммерческие тайны. Вскоре после отмены указа об ИИ Трамп подписал распоряжение, предписывающее федеральным агентствам содействовать развитию ИИ, «свободного от идеологических предубеждений», что способствует «процветанию человека, экономической конкурентоспособности и национальной безопасности».
Важно отметить, что в указе Трампа не упоминается борьба с дискриминацией в сфере ИИ, которая была ключевым принципом инициативы Байдена. Как отмечал The Midas Project в серии постов на сайте X, ничто в обязательствах времен Байдена не указывало на то, что обещания ограничены по времени или зависят от партийной принадлежности действующего президента.
В ноябре, после выборов, несколько компаний, занимающихся разработкой ИИ, подтвердили, что их обязательства не изменились. Anthropic - не единственная компания, скорректировавшая свою публичную политику в течение нескольких месяцев после вступления Трампа в должность. Недавно OpenAI объявила, что будет поддерживать «интеллектуальную свободу... независимо от того, насколько сложной или противоречивой может быть тема», и работать над тем, чтобы ее ИИ не подвергал цензуре определенные точки зрения.
OpenAI также убрала страницу на своем сайте, где говорилось о приверженности стартапа принципам многообразия, равенства и инклюзивности, или DEI. Эти программы попали под огонь администрации Трампа, в результате чего ряд компаний отменили или существенно переработали свои инициативы DEI. Многие советники Трампа по вопросам ИИ из Кремниевой долины, включая Марка Андреессена, Дэвида Сакса и Элона Маска, утверждают, что компании, в том числе Google и OpenAI, занимаются цензурой ИИ, ограничивая ответы своих чат-ботов.
Лаборатории, включая OpenAI, отрицают, что изменения в их политике являются реакцией на политическое давление. И OpenAI, и Anthropic получили или активно получают государственные контракты. Через несколько часов после публикации этой статьи Anthropic прислала TechCrunch следующее заявление: «Мы по-прежнему привержены добровольным обязательствам в области ИИ, принятым при администрации Байдена. Этот прогресс и конкретные действия продолжают отражаться в [нашем] центре прозрачности в рамках контента. Чтобы предотвратить дальнейшую путаницу, мы добавим раздел с прямым указанием на то, в чем заключается наш прогресс».
Оригинал
Уникальность
