Пророчество писателя Джорджа Оруэлла в книге «1984» может сбыться уже через три года, если не будут введены законы, защищающие людей от искусственного интеллекта, пишет Daily Mail, ссылаясь на заявление президента Microsoft Брэда Смита.
По словам Смита, общество тотального контроля и наблюдения, описанное в произведении Оруэлла, может воплотиться в жизнь уже к 2024 году, если не предпринять мер по сдерживанию искусственного интеллекта. Как пишет Daily Mail, ссылаясь на сведения анонимного инженера из Китая, власти КНР уже используют ИИ для наблюдения за населением, применяя, помимо прочего, технологию, распознающую эмоции и определяющую вину. По словам инженера, принцип действия технологии сравним с детектором лжи.
«Она используется для того, чтобы подтвердить заранее вынесенное властями решение в условиях отсутствия весомых доказательств. Компьютер определяет, что человек опасен — следовательно, он виновен во множестве преступлений, в которых ещё не сознавался», — приводит издание слова инженера.
Как пишет Daily Mail, обычное использование ИИ заключается в том, чтобы «научить» алгоритм тому или иному аспекту, загружая в него массивы данных. К примеру можно научить ИИ определять, имеется ли на фото определённый вид растения, чьи изображения были загружены в его память. Однако он может быть использован и для менее благородных целей, таких как определение вины граждан, задержанных полицией.
По словам Смита, пример Китая показывает, что мир становится ближе к научной фантастике: «Я постоянно вспоминаю об уроках Джорда Оруэлла в книге «1984». Её основной смысл был в том, что правительство могло всё видеть и всё слышать. Это не сбылось в 1984-м, но, если мы не будем осторожны, может сбыться в 2024 году».
Как отмечает издание, не только КНР использует ИИ для наблюдения за людьми. К примеру, США используют технологии Google, такие как распознавание изображений, способные различать людей и объекты. Эти технологии были использованы в военных целях, после чего несколько сотрудников Google уволились в знак протеста. В результате компания вышла из проекта, однако минобороны США нашло новых партнёров в Кремниевой долине. По словам конгрессмена Сета Моултона, технологические компании должны поддерживать правительство, а также отметил, что гонка вооружений в области ИИ может привести к конфликту с КНР.
По словам британского профессора Стюарта Рассела, технология ИИ является перепутьем для человечества: «если мы всё сделаем правильно, для человечества может наступить золотой век, мы избавимся от бедности и болезней. Если же мы поступим неправильно, мы создадим подкреплённую технологиям глобальную диктатуру, мы даже рискуем упустить контроль над нашим миром в руки наших собственных технологий».