Пройдёт совсем немного времени, и то, что сейчас кажется ночным кошмаром, превратится в суровую действительность: танки, которые могут беспрерывно воевать месяцы напролёт, технологии распознавания лица, делающие возможным наведение на нужную цель, и алгоритмы, которые решают, кто будет жить, а кто умрёт, пишет обозреватель Expressen Линда Нурдлунд.
Такие технологии, судя по всему, появятся всего через несколько лет. Подобное оружие уже вовсю используется: в Сирии Россия, например, испытала полуавтономный беспилотный танк «Уран-9».
«Обстоятельства вынуждают нас искать ответы на новые вопросы. Когда робот вправе убить человека? Кто несёт ответственность за убийство роботом гражданского: алгоритм, программист или владелец»? — задаётся вопросом Нурдлунд.
Их называют «роботами-убийцами» — речь идёт об автономных оружейных системах, которые сами принимают решение об убийстве. Однако правильный термин звучит как «летальная автономная оружейная система» и в своём сокращённом варианте выглядит как английское слово LAWS — законы.
Однако, как это ни парадоксально, несмотря на кампанию за запрет этих роботов, никаких международных законов в этой сфере не существует. «Темпы прогресса такие, что бабушка, ходящая на костылях, начинает казаться Усейном Болтом», — так Forbes охарактеризовал скорость переговоров в ООН по этой теме. Учитывая, что США, Израиль, Россия и Китай — это ведущие страны в плане разработок роботов, любая конвенция ООН становится без их участия абсолютно бессмысленной.
«Следовательно, роботов-убийц и боевой ИИ никогда не запретят. Их мощь слишком велика, чтобы великие державы могли от них отказаться. «Тот, кто станет лидером в этой сфере, будет властелином мира», — приводит журналистка слова президента России Владимира Путина.
Самое разрушительное оружие в мире — атомную бомбу — в последний раз использовали во время Второй мировой войны по единственной причине: люди понимали, что тот, кто использует её, через десять минут будет наблюдать за тем, как его собственные города превращаются в груду развалин.
Человечество может рассчитывать только на то, что роботы-убийцы будут попадать под действие похожей доктрины — доктрины взаимного гарантированного уничтожения.
«Однако здесь же таится и самая большая опасность автономных оружейных систем: они реагируют быстрее, чем человеческий мозг, что будет означать, что люди не смогут остановить роботов, если они неправильно истолковали ситуацию», — отмечает Нурдлунд.
В демилитаризованной зоне между Северной и Южной Кореей опасность конфликта присутствует постоянно. Положение может стать взрывоопасным в считанные мгновения.
«Представьте себе сценарий: солдаты патрулируют границу вместе с автономными системами, которые напрямую реагируют на любые осложнения и отвечают на каждую пулю градом огня. Затем представьте: один солдат спотыкается, звучит случайный выстрел — и в течение нескольких секунд роботы по обе стороны расстреливают все мягкие человеческие мишени. Удовлетворятся ли лидеры стран тем, что заберут тела и спишут всё на несчастный случай, — или же инцидент станет прологом к войне?» — рассуждает обозреватель.
После Карибского кризиса СССР и США проложили прямую телефонную линию между Москвой и Вашингтоном, дабы избежать потенциально катастрофического недопонимания. Это был умный ход. «Дипломатия не сможет остановить развитие роботов-убийц. Однако наступление роботов-убийц придаст дипломатии ещё больше веса, чем раньше. Единственное, что нам остаётся, так это надеяться на сохранение мира, готовиться к войне роботов и держать каналы связи открытыми», — подводит итог Линда Нурдлунд.