Возможно ли восстание машин: учёные обсуждают опасность искусственного интеллекта

В 2014 году шведский философ и преподаватель Оксфордского университета Ник Бостром написал книгу «Суперинтеллект: пути, опасности, стратегии». По мнению автора, если искусственный интеллект и способности компьютеров превзойдут умственные возможности людей, то всё человечество как форма жизни исчезнет. ИИ сможет, по словам философа, полностью заменить человека и его навыки. Работа Ника Бострома была переведена на множество языков и стала мировым бестселлером. Однако некоторые учёные усомнились в категоричных заявлениях шведского философа.

В издании MIT Technology Review исполнительный директор Института искусственного интеллекта им. Аллена и профессор кафедры компьютерных наук и инженерии Вашингтонского университета Орен Этциони опубликовал итоги проведённого им опроса «Когда человечество достигнет суперинтеллекта и к чему это может привести». Интерес Орена вызвала не только нашумевшая работа шведского философа, но и тревожные заголовки в ведущих американских СМИ, передающие общее беспокойство по поводу угрозы искусственного интеллекта для человечества в ближайшем будущем.

Сначала американский профессор решил подробно остановиться на проведённом Ником Бостромом исследовании и понять, на чём базируются его категоричные заключения. Орену Этциони удалось выяснить, что шведский философ основывает свой 300-страничный труд на четырёх исследованиях способностей искусственного интеллекта, результаты которых были представлены на конференции 2011 года «Философия и теория искусственного интеллекта» в Греции. Не раскрывая сути и содержания этих исследований, Ник Бостром утверждает, что к 2022 году искусственный интеллект достигнет 10% мыслительных способностей человека, к 2040 году — 50%, а в 2075 году уровень развития искусственного интеллекта приблизится к 90%.

Пытаясь разобраться в серьёзности этого заявления, а также убедиться в том, разделяет ли позицию шведского философа научное сообщество, Орен Этциони опросил 193 членов Американской ассоциации по изучению искусственного интеллекта (American Association for Artificial Intelligence). Вопрос был таким: «В своей книге Ник Бостром определил искусственный интеллект как интеллект, который намного умнее человеческого мозга практически во всех сферах, включая научное творчество, мудрость и социальные навыки. Как вы думаете, когда мы достигнем искусственного интеллекта»? В опросе приняли участие 80 экспертов.

Согласно результатам, 20 человек уверены, что искусственного интеллекта вовсе не будет. Менее 10 экспертов высказали предположение, что суперинтеллект потеснит человеческий через четверть века, а большинство видит его появление в отдалённом будущем. Опрос проводился анонимно, однако под своими именами высказались 44 участника, среди них — Эдвард Фейгенбаум — лауреат премии Тьюринга 1994 года, знаменитый робототехник Родни Брукс, а также директор по исследованиям Google Питер Норвиг.

Некоторые из опрошенных экспертов, пожелавшие остаться анонимными, раскритиковали подход Ника Бострома. Они выразили принципиальное несогласие с концепцией исследования и заявили, что не стоит видеть в искусственном интеллекте угрозу для человечества.

По словам Орена Этциони, опрос представляет собой ограниченную научную ценность, по нему нельзя делать далеко идущие выводы — для большинства учёных приведённых доказательств оказалось недостаточно.

Тем не менее уже сейчас существует множество опасений, связанных с широким использованием искусственного интеллекта в некоторых областях нашей жизни. При этом прогнозы, пророчащие его появление в самом ближайшем будущем, безосновательны. В обозримой перспективе компьютер не сможет заменить человеческий мозг.

Более того, существует немало положительных моментов, связанных с появлением искусственного интеллекта. Например, его можно использовать в медицине для предотвращения врачебных ошибок, а также для сокращения количества дорожно-транспортных происшествий. Наконец, вполне возможно, что системы ИИ могли бы сотрудничать с людьми, чтобы создать симбиотический суперинтеллект.

Эдуард Эпштейн