Сочетать научно-технический прогресс с защитой прав человека — такую целью преследует Европейская комиссия, представившая свой первый законопроект о развитии и регулировании искусственного интеллекта. ИИ нельзя будет использовать для биометрической идентификации, то есть распознавания людей.
Зато Брюссель хочет, чтобы машины с электронным мозгами заменяли человека на транспорте и производстве. Но им нельзя доверять управление обществом и определение судьбы отдельной личности. Вице-председатель Еврокомиссии признала, что искусственному интеллекту ещё предстоит завоевать к себе доверие граждан.
МАРГРЕТ ВЕСТАГЕР, вице-председатель Еврокомиссии: Предлагаемая нами правовая база не относится к технологии ИИ как таковой. Зато мы смотрим на то, для чего и как используется искусственный интеллект? Мы применяем здесь пропорциональный подход, основанный на одной простой логике: чем выше риск, который конкретное использование ИИ может представлять для нашей жизни, — тем строже правила.
Еврокомиссия хочет установить четыре «категории риска» для технологий искусственного интеллекта. «Минимальный риск» — это большинство вариантов применения, не наносящего ущерба: например, спам-фильтры. «Ограниченный риск» представляют, в частности, чат-боты: переписываясь с ними, граждане должны понимать, что общаются с программами, а не с живыми людьми.
Условия «высокого риска» требуют надзора за происходящим со стороны ответственного лица: нельзя оставлять машине вычисление кредитного рейтинга. И будут запрещены системы, создающие «неприемлемый риск», — такие как социологический анализ для формирования у правительства отношения к различным группам общества.
И всё же биометрическая идентификация может быть разрешена, когда это необходимо для поиска пропавшего ребенка — или предотвращения конкретной и неминуемой террористической угрозы.
ТОМА БУЭ, программист: Распознавание лица может быть безвредным и полезным. Например, чтобы разблокировать телефон. Я это делаю раз сто в день — и это сопряжено с гораздо меньшим риском, чем при использовании в общественных местах для установления личности. Так что всегда нужно учитывать контекст и задачи для использования искусственного интеллекта.
Пройдут годы, прежде чем это законодательное предложение Брюсселя вступит в силу. Но Евросоюз надеется стать мировым лидером в управлении ИИ, каким он стал в защите личных данных.
Дата выхода в эфир 21 апреля 2021 года.
Euronews: Еврокомиссия определила категории опасности для искусственного разума
Еврокомиссия выдвинула законодательные предложения о развитии и регулировании искусственного интеллекта на основании классификации по категориям потенциального риска, которому могут подвергаться люди в ходе взаимодействия с ним. Брюссель хочет, чтобы машины с электронным мозгами заменяли человека на транспорте и производстве — однако не рискует доверить им управление общественными процессами и определение судьбы отдельной личности, передаёт Euronews.