[svoboda] В ЕС подготовили проект правил по ограничению использования искусственного интеллекта
Здравствуйте, свобода.
Власти Евросоюза обнародовали
проект
правил, регулирующих применение технологий искусственного интеллекта (ИИ) на территории государств, входящих в ЕС.
Как пишет
The Verge,
проект, принятие которого в качестве законодательного акта займет годы, представляет собой самый амбициозный на сегодняшний день план регулирования сферы
ИИ. Документ охватывает многие отрасли, в которых используется или может быть использован ИИ, включая софт для беспилотного транспорта и алгоритмы оценки
соискателей работы. В частности, проект наделяет власти правом штрафовать компании за нарушение правил использования ИИ на сумму до 6% годовой выручки.
Одно из главных предложений авторов проекта заключается в том, чтобы ввести в ЕС запрет на использование ИИ в некоторых сферах в целях защиты прав граждан.
Например, речь идет о запрете применения правоохранительными органами работающих в реальном времени ИИ-систем биометрической идентификации в публичных
местах. Под это определение подпадают камеры с поддержкой распознавания лиц. В тоже время правила допускают применение ИИ для поиска подозреваемых в совершении
преступлений с минимальным наказанием в виде трех лет тюрьмы. Использование ИИ-технологий в таких случаях потребует специально разрешения, но правозащитники
считают, что правоохранители все равно получат слишком большие возможности для использования слежки с помощью искусственного интеллекта. Попавшая ранее
в Сеть черновая версия документа содержала более строгий запрет на массовую слежку с помощью ИИ.
Прочие сферы применения ИИ на территории ЕС в документе разделены на три группы. Первая включает сферы, не требующие регулирования. К таким сферам отнесены
среди прочих спам-фильтры в электронной почти. К сферам с ограниченным регулирования авторы документа отнесли чат-ботов, помогающих пользователям в решении
различных задач. Такие должны будут однозначно идентифицировать себя для пользователей как ботов.
Наконец, к сферам применения ИИ с высокими рисками, требующим строгого регулирования, в проекте отнесены в том числе системы автоматического оценивания
экзаменов, роботизированная хирургия, беспилотный транспорт, алгоритмы оценки кредитного рейтинга, алгоритмы оценки достоверности доказательств в суде,
системы анализа данных при найме персоналов и алгоритмы для проверки документов. Чтобы попасть на рынок, такие технологии, по замыслу авторов проекта,
должны соответствовать требованиям безопасности, точности, надежности, открытости пользователям и регуляторам, а также иным требованиям, пишет
TJ.
Эксперты не исключат, что принятие правил может усложнить работу европейских компаний, занимающихся ИИ и даст преимущество их китайским и американским
конкурентам. Впрочем, доработка проекта и его утверждение в любом случае займут несколько лет.
