В России инициирована разработка Киберкодекса. Бизнес-сообщество решило не дожидаться, пока государственная машина развернется к отрасли лицом, и само предпринимает попытки вывода в юридическое поле искусственного интеллекта. Инициатором разработки Киберкодекса выступила юридическая компания HEADS Consulting.
«Выступая модераторами секций по правовому регулированию искусственного интеллекта и робототехники на форумах РИФ+КИБ, Skolkovo Robotics и БМКФ, мы провели серьезную аналитику и поняли, в чем проблема в робототехнической сфере – у нас много технарей с отличными идеями, но, как это, к сожалению, часто бывает, законодательные барьеры мешают им реализоваться. Что самое обидное – весь мир сейчас только в начале пути, и если мы отстанем уже на старте, то так и останемся догоняющими. Понимая важность развития цифровой экономики в России, мы создали Всероссийский проект #ПравоРоботов (на данный момент создается НКО «Право роботов», документы находятся на регистрации в Минюсте)», – рассказал «Инвест-Форсайту» исполнительный директор HEADS Consulting Никита Куликов.
По замыслу основателей, проект должен стать площадкой, на которой специалисты в области права, государственные чиновники, IT-евангелисты, инженеры и бизнесмены могут начать диалог, который в перспективе приведет к появлению полноценного законодательства.
«Настолько глобальную вещь, как отдельный Киберкодекс, сразу не получится разработать, делать это нужно поэтапно. Его можно рассматривать в двух вариантах: как свод законов или кодекс в классическом понимании, с главами и разделами. Скорее всего, учитывая масштабность данного вопроса, мы пройдем обе стадии. Сначала сформируем свод законов, и после того, как они начнут работать (сроки диктует рынок), приступим к разработке классического кодекса с главами и разделами», – констатирует Куликов.
Все проекты и варианты решений будут направляться в Совет по законодательному обеспечению развития цифровой экономики при председателе Государственной думы РФ и в Экономический совет при президенте РФ по направлению «Цифровая экономика».
Могли бы стать технологическим оффшором
Регулирование отрасли нужно было еще вчера. Как замечает Алексей Южаков, председатель совета директоров пермского производителя сервисных роботов Promobot, в каждом пятом доме уже работает робот-пылесос, всё активнее приходят на рынок бытовые и сервисные роботы. На данном этапе они существуют по правам бытовой техники и электроники. Но стоит понимать, что большое количество роботов уже контролируется голосовым управлением, может распознавать лица и речь, а также передвигаться по пространствам, заполненными людьми, – поэтому совершенно точно пришло время закрепить правовыми актами статус разработчиков робототехнических систем и самих автономных роботов, тем более что в других странах, где есть программы по развитию робототехники, такой шаг уже сделан.
«Тут можно пойти дальше и действовать быстрее, это откроет окно возможностей для команд, в том числе зарубежных, это обеспечит понимание и позволит просчитывать риски, в первую очередь, инвесторам», – утверждает Южаков.
По его мнению, пришло время создавать новое право, а не искать в существующих законах то, к чему «прикрепиться» – предстоит описывать абсолютно новый сегмент взаимодействия роботов и человека. Для начала, надо определиться, что такое – или кто такой – робот.
«Робот – автономный, без эмоций элемент, который при этом может двигаться, однако не совсем верно приравнивать его к животным. В отличие от животных, искусственный интеллект умеет излагать и доносить информацию. Люди точно относятся к роботам не как к животным. И это стоит описать и психологически, и юридически», – уверен Алексей Южаков.
По версии Дмитрия Гришина, основателя венчурного фонда Grishin Robotics и главы Совета директоров Mail.ru Group, в борьбе трех концепций – «робот как человек», «робот как животное» и «робот как юрлицо» – побеждает последняя. В декабре 2016 года Гришин заявил о разработке основ закона о робототехнике и представил проект поправок в Гражданский кодекс. Он считает, что робототехнические системы должны проходить своеобразную сертификацию и включаться в аналог ЕГРЮЛ. Изменение законодательства могло бы превратить Россию в страну, дружественную новейшим технологиям, что привлечет и самих разработчиков, и инвесторов. Однако о реализации идей пока не слышно.
Уже не собака, но не человек
По мнению многих юристов, краеугольным камнем будущего Киберкодекса является определение ответственности и лица, которое будет ее нести.
«До изобретения и успешного использования полноценных моделей искусственного интеллекта (в частности, самосознания и воли у робота), ответственность за его действия должны нести представители компании, которые этого робота создали, – считает Николай Пацков, генеральный директор «Конструктора документов FreshDoc.ru». – Искусственный интеллект не является субъектом юридического поведения и ответственности. Таким образом, если автомобиль, использующий автопилот, попадает в аварию, перед общественностью и судом должны отвечать представители отдела качества, которые допустили дефект и выпустили некачественный продукт на рынок. Пока что робот – это объект, а не субъект права, и за его «действия» несет юридическую (общественную) ответственность перед другими членами живого общества его владелец».
Пацков напоминает, что в юриспруденции это называется «нести бремя содержания своего имущества», и приводит пример.
«Если ваша умная, но вполне живая собака покусала прохожего, то «причинитель вреда» – не собака, а ее хозяин, и все иски о возмещении адресуются хозяину. Это логично хотя бы в плане перспектив возмещения: собака, как робот, – имущество, объект: деньги не могут принадлежать ей юридически. В любом случае, за роботом или собакой стоят конкретные люди, субъекты, наделенные сознанием и волей, и даже если допустить принадлежность роботу своего банковского счета, фактически наделять его деньгами и реализовать все правомочия собственника будет человек».
Но пока, по мнению Николая Пацкова, все конструкции такого рода очень искусственны и нежизнеспособны. Хорошая возможность, по его словам, – создание на партнерских началах всех заинтересованных субъектов специальной системы страхования, вроде ОСАГО, чтобы решать проблемы не только с робомобилями, а вообще по всем случаям, когда возникает вопрос ответственности с участием робота. Например, если говорить о роботизации процесса подготовки документов (в этой сфере работает FreshDoc.ru), вопрос ответственности может решаться страховкой. По согласованию с заказчиком поставщик интеллектуальных систем может застраховать профессиональные риски и компенсировать возможный ущерб. Но развитие отрасли будет ставить новые вопросы, которые Киберкодекс должен рассматривать уже сегодня.
Развитие нейросетей заставляет задуматься над следующей ситуацией: если робот создает предмет интеллектуальной деятельности (музыкальное произведение, картину и книгу), кому будут принадлежать права, самому роботу или его разработчикам? Эти вопросы – только верхушка айсберга, и создателям Киберкодекса придется проделать огромную работу, чтобы предусмотреть все правовые коллизии во взаимоотношениях человека и робота.
ПДД для роботов
Никита Куликов из HEADS Consulting уверен, что одно из главных направлений, срочно требующих регулирования, – использование беспилотных транспортных средств. В США – помимо штата Калифорния, который всегда отличался лояльным подходом к передовым технологиям, – автоботам уже разрешили ездить в Нью-Йорке, одном из крупнейших городов мира, с огромным автомобильным и пешеходным трафиком. В Швеции компания Volvo уже второй год тестирует на дорогах общего пользования свои роботизированные системы; испытания автоботов также разрешены в Сингапуре. Федеральный совет Германии уже принял закон, регламентирующий использование беспилотных автомобилей.
К разработке и тестированию робомобилей уже приступили все ведущие автопроизводители.
«В России такие разработки ведутся скорее не благодаря, а вопреки: так, Камаз и ВолгаБас имеют свои наработки, ряд частных компаний разрабатывают ПО для таких автоботов (учитывая, что автомобиль – это всего лишь платформа, а основное – «мозги», то есть ПО). Но в силу ряда причин они не могут должным образом проводить испытания своих технологий в России. В частности, Сколково согласовывало полигон неприлично долгое время – почти полтора года, при том, что технология инновационная и отставание в этой гонке означает потерю рынка», – утверждает Никита Куликов.
Президент группы компаний Cognitive Technologies Ольга Ускова считает, что Россия серьезно отстает в реализации государственных программ поддержки развития беспилотного транспорта. Чиновники не успевают за скоростью рынка. Технологии искусственного интеллекта развиваются галопирующими темпами, и то, что заявленные сроки разработок в этом направлении сокращаются в разы, становится обычной ситуацией. Это требует также быстрой реакции законодателей для установления и закрепления собственных стандартов и регламентов на новых площадках, где правила игры только формируются.
«Когда два года назад мы только начинали диалог об изменениях законодательства, у России была возможность идти параллельно с лидерами мировой экономики. Сейчас же в стране катастрофическое положение. Роботизированные автомобили не имеют возможности выезжать на дороги общего пользования, не даны соответствующие определения новым участникам движения – беспилотным автомобилям, не регламентированы зоны ответственности при ДТП и так далее… Я только что вернулась из деловой поездки по Японии, – рассказывает Ольга Ускова. – Так там на международной конференции один из министров извинялся перед бизнесом за то, что власти страны только сейчас, с задержкой на год, приняли закон о разрешении беспилотного движения на дорогах».
Ольга Ускова уверена, что уже в ближайшие годы появятся смешанные потоки роботизированных и обычных машин, и Россия будет вынуждена заказывать юридические, консалтинговые и иные услуги крупнейшим международным компаниям, которые установят у нас европейские или американские правила.
«Мы становимся вторичными на новых рынках», – говорит она.
Россия – не место для роботов
«В каком-то смысле мы последнее поколение, которое живет в обществе в его обычном понимании. Следующее поколение (оно придет нам на смену через 15-20 лет) будет жить уже в смешанном обществе людей и роботов. Сегодня на наших глазах продукты приобретают кардинально новые потребительские качества, фактически из объектов превращаются в мыслящих субъектов, способных принимать решения в различных ситуациях. К такому переходу нужно серьезно подготовиться. Новым рынкам нужны правила, в которых должны быть прописаны права производителя и потребителя».
По словам Ольги Усковой, рынок новейших разработок в области беспилотных транспортных средств, включая юридическое сопровождение, стандартизацию и другие сопутствующие направления, оценивается в сотни миллиардов долларов. Его лидером сегодня является Америка, где уже в десяти штатах законодательство допускает эксплуатацию беспилотных автомобилей на дорогах общего пользования.
В Cognitive Technologies поддерживают разработку Киберкодекса, однако надеются, что реакция государства все же будет адекватной.
«Мы потеряли два года в попытках взаимодействия с НТИ (национальной технологической инициативой) по созданию отрасли беспилотных автомобилей и не продвинулись ни на йоту. В результате компания вынуждена переместить свою деловую активность в США и Японию, как и многие другие российские разработчики», – подчеркивает Ускова.
Будущее у проекта «ПравоРоботов» есть в том случае, если на его основе появится активная общественная платформа, которая заставит руководство страны поставить вопрос регулирования процесса роботизации на оперативное рассмотрение. Советник президента России по интернету Герман Клименко заявил о готовности рассмотреть предложения бизнес-сообщества. Но кодекс, по его мнению, нельзя разработать сразу – надо учесть взгляды всех участников процесса. На что может уйти от года до трех лет.
Источник
«Выступая модераторами секций по правовому регулированию искусственного интеллекта и робототехники на форумах РИФ+КИБ, Skolkovo Robotics и БМКФ, мы провели серьезную аналитику и поняли, в чем проблема в робототехнической сфере – у нас много технарей с отличными идеями, но, как это, к сожалению, часто бывает, законодательные барьеры мешают им реализоваться. Что самое обидное – весь мир сейчас только в начале пути, и если мы отстанем уже на старте, то так и останемся догоняющими. Понимая важность развития цифровой экономики в России, мы создали Всероссийский проект #ПравоРоботов (на данный момент создается НКО «Право роботов», документы находятся на регистрации в Минюсте)», – рассказал «Инвест-Форсайту» исполнительный директор HEADS Consulting Никита Куликов.
По замыслу основателей, проект должен стать площадкой, на которой специалисты в области права, государственные чиновники, IT-евангелисты, инженеры и бизнесмены могут начать диалог, который в перспективе приведет к появлению полноценного законодательства.
«Настолько глобальную вещь, как отдельный Киберкодекс, сразу не получится разработать, делать это нужно поэтапно. Его можно рассматривать в двух вариантах: как свод законов или кодекс в классическом понимании, с главами и разделами. Скорее всего, учитывая масштабность данного вопроса, мы пройдем обе стадии. Сначала сформируем свод законов, и после того, как они начнут работать (сроки диктует рынок), приступим к разработке классического кодекса с главами и разделами», – констатирует Куликов.
Все проекты и варианты решений будут направляться в Совет по законодательному обеспечению развития цифровой экономики при председателе Государственной думы РФ и в Экономический совет при президенте РФ по направлению «Цифровая экономика».
Могли бы стать технологическим оффшором
Регулирование отрасли нужно было еще вчера. Как замечает Алексей Южаков, председатель совета директоров пермского производителя сервисных роботов Promobot, в каждом пятом доме уже работает робот-пылесос, всё активнее приходят на рынок бытовые и сервисные роботы. На данном этапе они существуют по правам бытовой техники и электроники. Но стоит понимать, что большое количество роботов уже контролируется голосовым управлением, может распознавать лица и речь, а также передвигаться по пространствам, заполненными людьми, – поэтому совершенно точно пришло время закрепить правовыми актами статус разработчиков робототехнических систем и самих автономных роботов, тем более что в других странах, где есть программы по развитию робототехники, такой шаг уже сделан.
«Тут можно пойти дальше и действовать быстрее, это откроет окно возможностей для команд, в том числе зарубежных, это обеспечит понимание и позволит просчитывать риски, в первую очередь, инвесторам», – утверждает Южаков.
По его мнению, пришло время создавать новое право, а не искать в существующих законах то, к чему «прикрепиться» – предстоит описывать абсолютно новый сегмент взаимодействия роботов и человека. Для начала, надо определиться, что такое – или кто такой – робот.
«Робот – автономный, без эмоций элемент, который при этом может двигаться, однако не совсем верно приравнивать его к животным. В отличие от животных, искусственный интеллект умеет излагать и доносить информацию. Люди точно относятся к роботам не как к животным. И это стоит описать и психологически, и юридически», – уверен Алексей Южаков.
По версии Дмитрия Гришина, основателя венчурного фонда Grishin Robotics и главы Совета директоров Mail.ru Group, в борьбе трех концепций – «робот как человек», «робот как животное» и «робот как юрлицо» – побеждает последняя. В декабре 2016 года Гришин заявил о разработке основ закона о робототехнике и представил проект поправок в Гражданский кодекс. Он считает, что робототехнические системы должны проходить своеобразную сертификацию и включаться в аналог ЕГРЮЛ. Изменение законодательства могло бы превратить Россию в страну, дружественную новейшим технологиям, что привлечет и самих разработчиков, и инвесторов. Однако о реализации идей пока не слышно.
Уже не собака, но не человек
По мнению многих юристов, краеугольным камнем будущего Киберкодекса является определение ответственности и лица, которое будет ее нести.
«До изобретения и успешного использования полноценных моделей искусственного интеллекта (в частности, самосознания и воли у робота), ответственность за его действия должны нести представители компании, которые этого робота создали, – считает Николай Пацков, генеральный директор «Конструктора документов FreshDoc.ru». – Искусственный интеллект не является субъектом юридического поведения и ответственности. Таким образом, если автомобиль, использующий автопилот, попадает в аварию, перед общественностью и судом должны отвечать представители отдела качества, которые допустили дефект и выпустили некачественный продукт на рынок. Пока что робот – это объект, а не субъект права, и за его «действия» несет юридическую (общественную) ответственность перед другими членами живого общества его владелец».
Пацков напоминает, что в юриспруденции это называется «нести бремя содержания своего имущества», и приводит пример.
«Если ваша умная, но вполне живая собака покусала прохожего, то «причинитель вреда» – не собака, а ее хозяин, и все иски о возмещении адресуются хозяину. Это логично хотя бы в плане перспектив возмещения: собака, как робот, – имущество, объект: деньги не могут принадлежать ей юридически. В любом случае, за роботом или собакой стоят конкретные люди, субъекты, наделенные сознанием и волей, и даже если допустить принадлежность роботу своего банковского счета, фактически наделять его деньгами и реализовать все правомочия собственника будет человек».
Но пока, по мнению Николая Пацкова, все конструкции такого рода очень искусственны и нежизнеспособны. Хорошая возможность, по его словам, – создание на партнерских началах всех заинтересованных субъектов специальной системы страхования, вроде ОСАГО, чтобы решать проблемы не только с робомобилями, а вообще по всем случаям, когда возникает вопрос ответственности с участием робота. Например, если говорить о роботизации процесса подготовки документов (в этой сфере работает FreshDoc.ru), вопрос ответственности может решаться страховкой. По согласованию с заказчиком поставщик интеллектуальных систем может застраховать профессиональные риски и компенсировать возможный ущерб. Но развитие отрасли будет ставить новые вопросы, которые Киберкодекс должен рассматривать уже сегодня.
Развитие нейросетей заставляет задуматься над следующей ситуацией: если робот создает предмет интеллектуальной деятельности (музыкальное произведение, картину и книгу), кому будут принадлежать права, самому роботу или его разработчикам? Эти вопросы – только верхушка айсберга, и создателям Киберкодекса придется проделать огромную работу, чтобы предусмотреть все правовые коллизии во взаимоотношениях человека и робота.
ПДД для роботов
Никита Куликов из HEADS Consulting уверен, что одно из главных направлений, срочно требующих регулирования, – использование беспилотных транспортных средств. В США – помимо штата Калифорния, который всегда отличался лояльным подходом к передовым технологиям, – автоботам уже разрешили ездить в Нью-Йорке, одном из крупнейших городов мира, с огромным автомобильным и пешеходным трафиком. В Швеции компания Volvo уже второй год тестирует на дорогах общего пользования свои роботизированные системы; испытания автоботов также разрешены в Сингапуре. Федеральный совет Германии уже принял закон, регламентирующий использование беспилотных автомобилей.
К разработке и тестированию робомобилей уже приступили все ведущие автопроизводители.
«В России такие разработки ведутся скорее не благодаря, а вопреки: так, Камаз и ВолгаБас имеют свои наработки, ряд частных компаний разрабатывают ПО для таких автоботов (учитывая, что автомобиль – это всего лишь платформа, а основное – «мозги», то есть ПО). Но в силу ряда причин они не могут должным образом проводить испытания своих технологий в России. В частности, Сколково согласовывало полигон неприлично долгое время – почти полтора года, при том, что технология инновационная и отставание в этой гонке означает потерю рынка», – утверждает Никита Куликов.
Президент группы компаний Cognitive Technologies Ольга Ускова считает, что Россия серьезно отстает в реализации государственных программ поддержки развития беспилотного транспорта. Чиновники не успевают за скоростью рынка. Технологии искусственного интеллекта развиваются галопирующими темпами, и то, что заявленные сроки разработок в этом направлении сокращаются в разы, становится обычной ситуацией. Это требует также быстрой реакции законодателей для установления и закрепления собственных стандартов и регламентов на новых площадках, где правила игры только формируются.
«Когда два года назад мы только начинали диалог об изменениях законодательства, у России была возможность идти параллельно с лидерами мировой экономики. Сейчас же в стране катастрофическое положение. Роботизированные автомобили не имеют возможности выезжать на дороги общего пользования, не даны соответствующие определения новым участникам движения – беспилотным автомобилям, не регламентированы зоны ответственности при ДТП и так далее… Я только что вернулась из деловой поездки по Японии, – рассказывает Ольга Ускова. – Так там на международной конференции один из министров извинялся перед бизнесом за то, что власти страны только сейчас, с задержкой на год, приняли закон о разрешении беспилотного движения на дорогах».
Ольга Ускова уверена, что уже в ближайшие годы появятся смешанные потоки роботизированных и обычных машин, и Россия будет вынуждена заказывать юридические, консалтинговые и иные услуги крупнейшим международным компаниям, которые установят у нас европейские или американские правила.
«Мы становимся вторичными на новых рынках», – говорит она.
Россия – не место для роботов
«В каком-то смысле мы последнее поколение, которое живет в обществе в его обычном понимании. Следующее поколение (оно придет нам на смену через 15-20 лет) будет жить уже в смешанном обществе людей и роботов. Сегодня на наших глазах продукты приобретают кардинально новые потребительские качества, фактически из объектов превращаются в мыслящих субъектов, способных принимать решения в различных ситуациях. К такому переходу нужно серьезно подготовиться. Новым рынкам нужны правила, в которых должны быть прописаны права производителя и потребителя».
По словам Ольги Усковой, рынок новейших разработок в области беспилотных транспортных средств, включая юридическое сопровождение, стандартизацию и другие сопутствующие направления, оценивается в сотни миллиардов долларов. Его лидером сегодня является Америка, где уже в десяти штатах законодательство допускает эксплуатацию беспилотных автомобилей на дорогах общего пользования.
В Cognitive Technologies поддерживают разработку Киберкодекса, однако надеются, что реакция государства все же будет адекватной.
«Мы потеряли два года в попытках взаимодействия с НТИ (национальной технологической инициативой) по созданию отрасли беспилотных автомобилей и не продвинулись ни на йоту. В результате компания вынуждена переместить свою деловую активность в США и Японию, как и многие другие российские разработчики», – подчеркивает Ускова.
Будущее у проекта «ПравоРоботов» есть в том случае, если на его основе появится активная общественная платформа, которая заставит руководство страны поставить вопрос регулирования процесса роботизации на оперативное рассмотрение. Советник президента России по интернету Герман Клименко заявил о готовности рассмотреть предложения бизнес-сообщества. Но кодекс, по его мнению, нельзя разработать сразу – надо учесть взгляды всех участников процесса. На что может уйти от года до трех лет.
Источник
