В своем заявлении во вторник Дарио Амодей, генеральный директор ИИ-стартапа Anthropic, назвал саммит AI Action Summit в Париже, состоявшийся на этой неделе, «упущенной возможностью» и призвал индустрию ИИ и правительство «действовать быстрее и с большей ясностью». «Мы были рады присутствовать на саммите AI Action Summit в Париже и высоко ценим усилия французского правительства по объединению компаний, исследователей и политиков со всего мира, работающих в сфере ИИ», - сказал Амодей.
«Тем не менее, учитывая темпы развития технологии, необходимо уделить больше внимания ряду вопросов». Критика Амодея в адрес AI Action Summit, последней из серии конференций, на которых собрались компании, занимающиеся разработкой ИИ, и регулирующие органы, чтобы попытаться прийти к консенсусу по вопросам управления ИИ, перекликается с мнением нескольких ученых, высказанным ранее на этой неделе.
Один из них сказал изданию Transformer, что обязательства конференции, которые США и Великобритания отказались подписать, не содержат «фактически ничего, кроме банальностей». В своих комментариях на конференции вице-президент США Джей Ди Вэнс занял совершенно иную позицию и осудил то, что он охарактеризовал как «массивные» и удушающие правила в отношении ИИ, отстаиваемые Европой.
Вэнс также высказался по поводу модерации контента, сославшись на «устойчивые» и «инклюзивные» формулировки в обязательствах конференции, которые он отверг как «авторитарную цензуру». Амодей в своем выступлении предупредил, что ИИ быстро становится все более совершенным и что неспособность регулировать его может привести к катастрофическим последствиям. «Возможности систем искусственного интеллекта лучше всего рассматривать как появление на мировой арене совершенно нового государства, населенного высокоинтеллектуальными людьми», - сказал Амодеи.
«Передовой ИИ представляет собой серьезную угрозу для глобальной безопасности, начиная от неправомерного использования систем ИИ негосударственными субъектами... Мы должны обеспечить лидерство демократических обществ в области ИИ, и чтобы авторитарные страны не использовали его для установления глобального военного господства».
Амодей призвал правительства направить свои ресурсы на измерение того, как используется ИИ, и проводить политику, направленную на «обеспечение того, чтобы все участвовали в экономическом [подъеме] очень мощного ИИ». Он также призвал правительства к большей прозрачности в вопросах безопасности ИИ, а также к разработке планов по оценке рисков ИИ. Оценка Амодеем работы Парижского саммита по ИИ контрастирует с мнением OpenAI, которая в своем заявлении в эти выходные выразила уверенность, что конференция станет «еще одной важной вехой на пути к ответственному и полезному развитию ИИ для всех». В прошлом Anthropic в целом демонстрировала большую открытость к регулированию ИИ.
Амодей и раньше делал подобные заявления, предупреждая, что неограниченное развитие ИИ может иметь крайне негативные последствия для экономики, общества и безопасности. Anthropic была одной из немногих компаний, занимающихся разработкой ИИ, которая молчаливо поддержала калифорнийский законопроект SB 1047, всеобъемлющий и горячо обсуждаемый законопроект о регулировании ИИ. OpenAI выступала против этого законопроекта, на который прошлой осенью наложил вето губернатор Гэвин Ньюсом.
Это не значит, что мотивы Anthropic исключительно филантропические. Как и генеральный директор OpenAI Сэм Альтман в своем недавнем эссе, Амодей не предлагает никаких конкретных рекомендаций по обеспечению широкого и равномерного распределения преимуществ мощного ИИ, если он появится в ближайшем будущем.
Оригинал
Уникальность
