Автор калифорнийского закона SB 1047, самого спорного в стране законопроекта о безопасности ИИ 2024 года, вернулся с новым законопроектом об ИИ, который может всколыхнуть Кремниевую долину. В пятницу сенатор от штата Калифорния Скотт Винер представил новый законопроект, который защитит сотрудников ведущих лабораторий ИИ, позволив им высказывать свое мнение, если они считают, что системы ИИ их компании могут представлять «критический риск» для общества.
Новый законопроект, SB 53, также предусматривает создание публичного облачного вычислительного кластера под названием CalCompute, чтобы предоставить исследователям и стартапам необходимые вычислительные ресурсы для разработки ИИ, приносящего пользу обществу. Последний законопроект Винера об искусственном интеллекте, калифорнийский SB 1047, вызвал оживленную дискуссию по всей стране о том, как справиться с массивными системами искусственного интеллекта, которые могут привести к катастрофам. Цель SB 1047 заключалась в том, чтобы предотвратить возможность возникновения катастрофических событий, таких как гибель людей или кибератаки стоимостью более 500 миллионов долларов.
Однако губернатор Гэвин Ньюсом в сентябре наложил вето на этот законопроект, заявив, что SB 1047 - не самый лучший подход. Но дебаты вокруг SB 1047 быстро переросли в уродливые. Некоторые лидеры Кремниевой долины заявили, что SB 1047 повредит конкурентоспособности Америки в глобальной гонке ИИ, и утверждали, что законопроект был вдохновлен нереальными опасениями, что системы ИИ могут привести к сценариям конца света, похожим на научную фантастику.
Между тем, сенатор Винер утверждал, что некоторые венчурные капиталисты ведут «пропагандистскую кампанию» против его законопроекта, в частности, ссылаясь на заявление Y Combinator о том, что SB 1047 отправит основателей стартапов в тюрьму, что, по мнению экспертов, вводит в заблуждение. SB 53, по сути, берет наименее спорные части SB 1047 - такие как защита информаторов и создание кластера CalCompute - и перерабатывает их в новый законопроект об искусственном интеллекте. Примечательно, что в SB 53 Винер не уклоняется от экзистенциального риска ИИ.
Новый законопроект специально защищает информаторов, которые считают, что их работодатели создают системы ИИ, представляющие «критический риск». Законопроект определяет критический риск как «предвидимый или существенный риск того, что разработка, хранение или развертывание разработчиком модели основы, как это определено, приведет к смерти или серьезным травмам более 100 человек или к ущербу правам на деньги или имущество на сумму более 1 миллиарда долларов».
SB 53 запрещает разработчикам моделей искусственного интеллекта (среди которых, вероятно, OpenAI, Anthropic, xAI и другие) преследовать сотрудников, которые раскрывают информацию генеральному прокурору Калифорнии, федеральным властям или другим сотрудникам. Согласно законопроекту, эти разработчики должны будут отчитываться перед разоблачителями о некоторых внутренних процессах, которые разоблачители сочтут сомнительными. Что касается CalCompute, SB 53 предусматривает создание группы для создания кластера публичных облачных вычислений. В состав группы войдут представители Калифорнийского университета, а также другие государственные и частные исследователи.
Она будет разрабатывать рекомендации по созданию CalCompute, размерам кластера и тому, какие пользователи и организации должны иметь к нему доступ. Конечно, законодательный процесс по SB 53 находится на ранней стадии. Законопроект должен быть рассмотрен и принят законодательными органами Калифорнии, прежде чем он попадет на стол губернатора Ньюсома. Законодатели штата, несомненно, будут ждать реакции Кремниевой долины на SB 53. Однако 2025 год может оказаться более сложным для принятия законопроектов о безопасности ИИ по сравнению с 2024 годом. В 2024 году в Калифорнии было принято 18 законопроектов, связанных с ИИ, но теперь кажется, что движение «за смерть ИИ» сдает позиции.
Вице-президент Джей Ди Вэнс на саммите по действиям в области ИИ в Париже дал понять, что Америка не заинтересована в безопасности ИИ, а предпочитает отдавать предпочтение инновациям в области ИИ. Хотя кластер CalCompute, созданный в соответствии с SB 53, несомненно, можно считать продвижением прогресса в области ИИ, неясно, как будут развиваться законодательные усилия по борьбе с экзистенциальным риском ИИ в 2025 году.
Оригинал
Уникальность
