Регулирование искусственного интеллекта

Основная статья: Искусственный интеллект

Хроника

2024

Разработчиков ИИ в России обязали страховать риски нанесение вреда их системами

25 июня 2024 года Госдума РФ приняла закон об обязательном страховании ответственности за вред от искусственного интеллекта. Документ, как отмечается, направлен на совершенствование механизмов применения экспериментальных правовых режимов (ЭПР) в сфере цифровых инноваций.

Закон нацелен в том числе на предупреждение и минимизацию рисков возникновения негативных последствий использования ИИ-технологий. Участникам ЭПР предписано страховать гражданскую ответственность за причинение вреда жизни, здоровью или имуществу других лиц в результате применения ИИ. В соответствии с новыми правилами, субъект ЭПР обязан вести реестр лиц, вступающих с ним в правоотношения. В этой базе должна содержаться информация об ответственных за использование решений, основанных на ИИ. Кроме того, компаниям придется вести реестр созданных результатов интеллектуальной деятельности с указанием их правообладателя.

Unsplash

Еще одним нововведением является формирование комиссии по выявлению обстоятельств, в результате которых при применении ИИ причинен вред. Предлагается, что в состав комиссии будут входить представители уполномоченного и регулирующего органов, а также организации предпринимательского сообщества. Кроме того, при необходимости могут быть включены иные лица. Вносимые изменения согласуются с основными принципами развития и использования технологий ИИ, соблюдение которых обязательно при реализации Национальной стратегии развития искусственного интеллекта на период до 2030 года.

В случае если при реализации ЭПР в результате использования решений, разработанных с применением технологий ИИ, причинен вред жизни, здоровью или имуществу человека либо имуществу юридического лица, в течение 30 дней со дня выявления факта причинения такого вреда регулирующий орган создает комиссию для установления обстоятельств, при которых был причинен такой вред, — отмечается в документе.

В соответствии с законом исключается требование к инициатору об отсутствии у него судимости, поскольку практика установления ЭПР показала отсутствие необходимости и эффективности данного требования в целом. Подчеркивается, что наличие справки об отсутствии судимости не влияет на решение вопроса об установлении ЭПР — указанный документ не является предметом рассмотрения заинтересованными органами (в частности, МВД России, ФСБ России и правительством Российской Федерации). Вместе с тем требование об отсутствии судимости может предъявляться в рамках программы ЭПР в первую очередь в отношении лиц, непосредственно осуществляющих апробацию инноваций.

Данный подход уже нашел отражение в действующих программах ЭПР, где лицу, имеющему судимость, запрещается осуществлять функции водителя-испытателя, диспетчера беспилотных авиационных систем, что является более адресной и эффективной мерой противодействия совершению противоправных действий, — сказано в документе.

Президент Всероссийского союза страховщиков (ВСС) Евгений Уфимцев в качестве примера приводит риск гражданской ответственности причинения вреда беспилотным автомобилем. По его словам, само по себе страхование ответственности за причинение вреда в результате использования ИИ ставит ряд новых для юридической и страховой практики вопросов. Вместе с тем начальник управления страхования ответственности «Ингосстраха» Дмитрий Шишкин говорит, что рынок страхования ИИ будет развиваться, но «драйвером этого развития должна стать определенная законом ответственность разработчиков ИИ».^[1]

Как в США, ЕС и Китае проводится госрегулирование сферы ИИ

Стремительное развитие искусственного интеллекта, в том числе генеративных сервисов, привело к необходимости регулирования соответствующей сферы. Различные законодательные инициативы в области ИИ уже приняты или обсуждаются на уровне правительств в Евросоюзе, Китае и США. О новых требованиях в середине января 2024 года рассказал Институт статистических исследований и экономики знаний НИУ ВШЭ.

В частности, Европарламент и Евросовет согласовали положения Закона об искусственном интеллекте (AI Act). Документ призван защитить от высокорискового ИИ гражданские права и демократию, обеспечить верховенство закона и экологическую устойчивость, а также стимулировать инновации. В основе законопроекта лежит риск-ориентированный подход: вводятся понятия запрещенных вредоносных ИИ-практик, высокорисковых систем ИИ, систем ограниченного риска и систем с низким или минимальным риском (на них не налагаются никакие ограничения). Высокорисковые системы ИИ должны соответствовать требованиям по риск-менеджменту, тестированию, технической надежности, обучению и управлению данными, прозрачности, кибербезопасности и управляемости людьми. Для систем ИИ, используемых для биометрической идентификации, потребуется оценка со стороны специализированного органа.

В США, в свою очередь, принят Указ о безопасном, надежном и заслуживающем доверия ИИ. Как и европейский законопроект, американский документ требует от создателей систем ИИ прозрачности процессов. Для повышения безопасности использования технологий на базе ИИ Национальный институт стандартов и технологий разработает требования, которым должны соответствовать эти системы.

Китай принял так называемые Временные меры по управлению генеративными системами ИИ. В соответствии с документом, разработчики таких платформ отвечают за весь генерируемый контент. Создатели сервисов обязаны улучшать точность и надежность генерируемых материалов, а также повышать прозрачность услуг. Кроме того, разработчики должны предотвращать создание контента, подрывающего социалистические ценности или подстрекающего к свержению государственного строя. Необходимо также защищать персональные данные пользователей и соблюдать права на интеллектуальную собственность и частную жизнь.^[2]Becton Dickinson многие годы скрывала брак в инфузионных насосах 5.4 т

Робототехника