Сила интеллекта: глава SpaceX Илон Маск назвал возможную причину начала третьей мировой войны

Конкуренция стран в борьбе за первенство в области искусственного интеллекта с высокой долей вероятности приведёт к началу третьей мировой войны. Так считает глава компаний SpaceX и Tesla, инженер и миллиардер Илон Маск.

«Скоро и Китай, и Россия будут сильны в компьютерных технологиях. ИМХО, третья мировая война, скорее всего, начнётся из-за соперничества между странами за превосходство в области искусственного интеллекта», — написал Маск в своём Twitter.

Такое громкое заявление стало ответом на слова президента России Владимира Путина, который в ходе форума в Ярославле сказал, что миром будет править страна, ставшая лидером в сфере искусственного интеллекта.

«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира», — заявил Путин.

При этом российский лидер, выступая на Всероссийском открытом уроке «Россия, устремлённая в будущее», подчеркнул, что такая технология не должна быть сосредоточена в одних руках.

«Поэтому мы (если станем лидерами в этой сфере) будем делиться этими технологиями со всем миром — как мы сегодня делимся атомными технологиями, ядерными технологиями. Но чтобы не стоять в конце очереди, нужно уже сегодня работать над этим», — подчеркнул президент.

• Владимир Путин в рамках Всероссийского форума профессиональной навигации «ПроеКТОриЯ» в Ярославле
• kremlin.ru

Глава SpaceX не в первый раз выступает с противоречивыми заявлениями о перспективах высоких технологий и связанным с ними будущим человечества. Не далее как в середине августа группа из 116 экспертов из 26 стран во главе с Илоном Маском направила в ООН обращение с призывом запретить автономные вооружения.

По мнению специалистов, развитие и эволюция автоматизированной боевой техники может привести к резкому технологическому скачку, «военной революции», которая по своему масштабу и значению сравнится с изобретением пороха или созданием ядерного оружия.

«Когда автономное оружие будет достаточно развито, оно позволит вести военные действия на таком небывалом уровне и в столь короткие сроки, что человек будет не в состоянии это даже осознать. Такие технологии могут стать оружием, которое диктаторы и террористы смогут применять против мирного населения», — говорится в заявлении экспертов.

Обсуждение в ООН вопроса о запрете автономного оружия должно было начаться 21 августа, но его перенесли на ноябрь 2017 года.

В середине июля Маск назвал искусственный интеллект самой большой опасностью, с которой сталкивается человечество: «По роду своей деятельности я имею доступ к самым передовым разработкам в области искусственного интеллекта. Я думаю, люди должны быть обеспокоены этой проблемой».

• © Кадр из фильма «Терминатор»

По словам миллиардера (ставшего прототипом голливудского Тони Старка — «Железного человека», которого сыграл Роберт Дауни — младший), вопрос искусственного интеллекта — это тот редкий случай, когда человечеству следует проявлять активность в предварительном регулировании, а не в реагировании на конкретные действия.

«Потому что к тому времени, когда мы начнём реагировать, будет уже слишком поздно», — подчеркнул он.

Маск тогда отметил, что жизненно важное значение имеет государственный контроль в этой области.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча», — заявил бизнесмен.

После этих слов Маск вступил в спор с основателем Facebook Марком Цукербергом, который не согласился с главой SpaceX, утверждая, что «искусственный интеллект должен сделать нашу жизнь лучше, а писать сценарии конца света абсолютно безответственно».

• Глава SpaceX Илон Маск
• AFP
• © Heiko JUNGE

Между тем в апреле изобретатель анонсировал создание в обозримом будущем технологии чтения мыслей его компанией Neuralink Corp.

«Примерно через четыре года мы планируем представить на рынке продукт, который сможет помочь пострадавшим от серьёзных повреждений мозга (инсульт, рак, врождённые патологии)», — рассказал Маск.

При этом основные силы планируется направить на создание технологии для помощи людям, неспособным к вербальному общению из-за травм или паралича.

Примерно в это же время информацию о разработке технологии, которая позволит набирать текст силой мысли, подтвердил Цукерберг. Он назвал это первым шагом на пути к прямому обмену чувствами и мыслями.

Разработка компанией Neuralink технологий перенесения информации из мозга человека на цифровые носители позволит проводить и обратную операцию. То есть компьютер сможет напрямую загружать информацию в мозг.

Также по теме

Проблема лишних людей: сбудется ли предсказание Маска о слиянии человека с машинами

Человечеству придётся слиться с машинами для того, чтобы не оказаться бесполезным ко времени, когда всем будет управлять искусственный...

Подобный интерфейс, называемый «нейронными кружевами», должен работать благодаря имплантированным в мозг и обеспечивающим прямую связь с программой электродам. Если его удастся выстроить на практике, то «вплетённые» в мозг «кружева» смогут, например, позволить человеку подключаться к интернету силой мысли.

В феврале этого года Маск, выступая на форуме World Government Summit в Дубае, выразил мнение, что человечеству придётся слиться с машинами, чтобы успевать за ростом мощностей вычислительной техники. По его словам, компьютеры, которые могут общаться между собой на скорости в триллионы бит в секунду, вытеснят с рабочих мест людей, скорость передачи информации между которыми составляет всего около 10 бит в секунду.

• Reuters
• © Paolo Cocco RTR 02

«Высокочастотный интерфейс, подключаемый к мозгу, поможет достигнуть симбиоза между машинным и человеческим мозгом и, возможно, решит проблему контроля за машинами и полезности людей», — отметил миллиардер.

В ходе выступления Маск выразил опасения по поводу вероятного соперничества людей с общими системами управления, которые вытеснят большинство людей с их рабочих мест в ближайшем будущем.

Гонка интеллектов 

Научный руководитель Центра долгосрочного прогнозирования и стратегического планирования при МГУ Сергей Малков в комментарии RT заявил, что горячая фаза гонки государств в развитии искусственного интеллекта уже началась. По его словам, уже сегодня компьютер может успешно выполнять рутинные операции, помогая человеку. 

«Но угроза заключается в том, что сейчас хотят заменить и интеллектуальный труд машинным. Это уже серьёзная вещь — замена человека в принятии решений. Это большая угроза, поскольку человек в принятии решений пользуется соображениями не только утилитарными, но и этическими. У машин этого нет, и решения будут приниматься сугубо рациональные», — сказал эксперт. 

• Reuters
• © Dave Kaup

В качестве примера он привёл участие в биржевых торгах систем, запрограммированных на получение максимальной прибыли. Их использование, отметил Малков, может привести к экономическим кризисам. 

«Подобные системы будут внедряться и в военной области, где важна быстрота принятия решений. Например, в предупреждении и парировании ядерного удара. Но если в таких системах случится сбой, то они могут начать действовать без реальной угрозы ядерного удара. И это действительно может привести к развязыванию серьёзного конфликта, в том числе и ядерного», — пояснил он.

Похожую точку зрения в интервью RT высказал член Ассоциации футурологов, ведущий научный сотрудник Института системного анализа ФИЦ ИУ РАН Александр Кононов. Он отмечает, что в этой сфере угроза для человека — вполне реальна.

«Если искусственным интеллектом будут оснащать средства ведения войны — боевых роботов, системы кибервойны, которые будут использоваться для того, чтобы проводить кибератаки на инфраструктуру противника, то искусственный интеллект реально может выйти из-под контроля. Он в результате расчётов может прийти к выводу, что человечество склонно к самоуничтожению, а потому неразумно. А значит, его самого можно уничтожить», — сказал Кононов. 

По словам учёного, уже сейчас роботы могут восстать против человечества. И эта угроза растёт с каждым годом, поскольку разрабатываются и принимаются на вооружение новые боевые роботы и военные системы с искусственным интеллектом. 

«На применение искусственного интеллекта в системах противостояния должен быть введён такой же запрет, как и на распространение ядерного оружия. Переговоры государств по этому поводу должны начаться немедленно, в самое ближайшее время. Результаты переговоров должны быть закреплены в международных конвенциях. Мы не должны пускать искусственный интеллект в военную сферу», — пояснил учёный.