Ранним утром в субботу сенат штата Калифорния окончательно одобрил масштабный законопроект по безопасности ИИ — SB 53, который вводит новые требования по прозрачности для крупных компаний, работающих с искусственным интеллектом.
Как пояснил автор инициативы, сенатор штата Скотт Винер, SB 53 обязывает крупные ИИ-лаборатории раскрывать свои протоколы безопасности, вводит защиту для сотрудников-осведомителей и создаёт публичное облако CalCompute для расширения доступа к вычислительным ресурсам.
Теперь законопроект направлен на подпись или отклонение губернатору Калифорнии Гэвину Ньюсому. Он пока публично не комментировал SB 53, хотя в прошлом году наложил вето на более широкий законопроект по безопасности ИИ, также предложенный Винером, при этом подписав более узкие меры, направленные, например, на борьбу с дипфейками.
Тогда Ньюсом признал важность «защиты общества от реальных угроз, связанных с этой технологией», но раскритиковал предыдущий законопроект за чрезмерную строгость, применяемую ко всем крупным моделям вне зависимости от того, используются ли они в высокорисковых сценариях, при принятии критически важных решений или в работе с конфиденциальными данными.
По словам Винера, нынешняя версия SB 53 была разработана с учётом рекомендаций экспертной группы по ИИ, которую Ньюсом созвал после наложения вето.
Как сообщает Politico, законопроект был недавно доработан: теперь компании, разрабатывающие «передовые» ИИ-модели и имеющие годовой доход менее $500 млн, обязаны раскрывать только общую информацию о безопасности, тогда как более крупные компании должны предоставлять детализированные отчёты.
Законопроект вызвал сопротивление со стороны ряда компаний Кремниевой долины, венчурных фондов и лоббистских организаций. В недавнем письме к Ньюсому компания OpenAI не упомянула SB 53 напрямую, но заявила, что во избежание «дублирования и противоречий» компании должны считаться соответствующими требованиям штата, если они уже соблюдают федеральные или европейские стандарты.
Глава отдела политики ИИ и главный юрисконсульт Andreessen Horowitz также выразил обеспокоенность, заявив, что «многие из сегодняшних законопроектов по ИИ — как в Калифорнии, так и в Нью-Йорке — рискуют нарушить конституционные ограничения на регулирование межштатной торговли».
Соучредители a16z ранее называли технологическое регулирование одной из причин своей поддержки переизбрания Дональда Трампа, а его администрация и союзники впоследствии призвали к десятилетнему запрету на регулирование ИИ на уровне штатов.
Тем временем компания Anthropic выразила поддержку SB 53. «Мы давно говорим, что предпочли бы федеральный стандарт», — написал соучредитель Джек Кларк. — «Но в его отсутствие SB 53 предлагает надёжную основу для управления ИИ, которую невозможно игнорировать».
Оригинал
Уникальность
