Идея о роботах, способных убивать людей без приказа [человека], уже не одно десятилетие широко эксплуатируется в научной фантастике – вспомните хотя бы «Терминатора». Однако сегодня многие образованные люди утверждают, что это уже больше не плод человеческой фантазии. В сегодняшнем выпуске наш корреспондент в Пентагоне Лукас Томлинсон расскажет, при чем тут Минобороны США.
Действующие автономно роботы, которые выслеживают людей и убивают их, раньше появлялись только в голливудских фильмах, но их, вероятно, вскоре можно будет увидеть на каком-нибудь поле боя неподалеку от вашего дома. Пентагон вкладывает миллиарды долларов в разработку автономных видов вооружения – машин, которые могут однажды получить способность убивать без команды [человека]. Главный вопрос сейчас: сколько же свободы в принятии решений им следует предоставить.
СТИВЕН ГУС, Human Rights Watch: Мы убеждены, что полностью автономные вооружения, которые публика, скорее всего, лучше знает под названием «роботы-убийцы», несут в себе серьезную угрозу для мирных жителей, – как, впрочем, и для солдат. Мы считаем, что [создание] подобного вооружения приведет к тому, что ответственность за принятие решений о жизни и смерти будет переложена на машины, в результате чего будут нарушены определенные этические нормы.
Оборонительными вооружениями, в которых для уничтожения атакующих самолетов и приближающихся ракет противника применяется автономность, уже обладают более 30 государств. В Пентагоне, впрочем, подчеркивают, что решение о нанесении удара будут принимать люди.
ЭШТОН КАРТЕР, министр обороны США: Когда речь заходит о применении силы от имени американского народа, в подобного рода решениях всегда должен принимать участие человек.
Однако критики говорят, что рисковать тут неприемлемо.
СТИВЕН ГУС, Human Rights Watch: Мы полагаем, что их нужно превентивно запретить. Таких машин пока еще не существует, однако их появление уже не за горами.
В 2003 году американский ЗРК Patriot, в котором широко используются элементы автономности, сбил два своих самолета, в результате чего погибли пилоты.
ПОЛ ШЭРРИ, эксперт по военным технологиям будущего: Не думаю, что нужно надеяться на то, что война когда-нибудь станет идеальной и безупречной, – неполные данные и несчастные случаи никуда не денутся. Возможно, автоматизация в определенном смысле сможет сделать военные действия более точными, как это уже было с умным оружием.
По словам Шэрри, внедрение автономности может снизить смертность среди мирных жителей в зоне военных действий, но лишь если ее будут правильно применять.
Эксперты утверждают, что Пентагон интересуется исключительно применением технологии в области логистики и для других задач – вроде дозаправки самолетов. Другие видят потенциал в беспилотных подлодках – таких как вот этот Ghost Swimmer [«Пловец-призрак»], который может дорасти до подводного дрона.
Уже сегодня автоматизация используется в беспилотных автомобилях, а также на Уолл-стрит, но она не идеальна.
ПОЛ ШЭРРИ: Рассмотрим нынешнюю ситуацию на биржах: там высока доля автоматизации, но случались ситуации, когда алгоритмы, использующиеся разными компаниями, взаимодействовали самым неожиданным образом, а потом получался какой-нибудь мгновенный обвал. И мне кажется, что мы вряд ли захотим узреть аналогичную ситуацию с вооруженными силами, то есть некую мгновенную войну.