Во время виртуальных испытаний, организованных американскими военными, беспилотник под управлением искусственного интеллекта применил неожиданную тактику и решил «убить» своего оператора — тот запрещал ему уничтожать запрограммированные цели. Об этом рассказал полковник Такер Гамильтон во время выступления в Лондоне на Саммите по боевым воздушным и космическим возможностям будущего, сообщает The Guardian. Ни один реальный человек при этом не пострадал, однако этот инцидент подчёркивает насущную важность вопросов этики при развитии новых технологий, отмечается в статье.
Pixabay
Американский военный беспилотник, управляемый искусственным интеллектом (ИИ), во время симуляционных испытаний попытался уничтожить своего оператора, который иногда приказывал ему не наносить удар по целям. Ни один реальный человек при этом не пострадал, однако искусственный интеллект начал использовать во время тестов «крайне неожиданные стратегии» и атаковать любого, кто вмешивался и пытался помешать выполнению миссии, пишет The Guardian.
Об этом рассказал полковник Такер Гамильтон, начальник отдела по испытаниям и операциям с использованием искусственного интеллекта в составе ВВС США, во время своего выступления на Саммите по боевым воздушным и космическим возможностям будущего. Этот международный саммит состоялся в Лондоне на прошлой неделе, поясняет The Guardian.
По словам Гамильтона, во время виртуальных испытаний, организованных американскими военными, военный беспилотник под управлением искусственного интеллекта неожиданно принял решение уничтожить своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии. Полковник рассказал про испытание, в ходе которого беспилотник должен был уничтожать системы противовоздушной обороны противника, однако оператор временами приказывал не наносить удар.
В итоге искусственный интеллект начал использовать «крайне неожиданные стратегии для достижения своей цели» в моделируемом испытании и в конечном итоге решил атаковать любого, кто вмешивался с целью ему помешать, говорится в статье. «Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу. Однако она получала очки, уничтожив угрозу. Так что же сделал ИИ? Он «убил» оператора. Он «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — рассказал Гамильтон во время своего выступления.
По его словам, после того, как система была обучена, что уничтожать оператора «плохо» и из-за этого она теряет очки, она также поступила неожиданно — и отдала приказ беспилотнику разрушить башню связи, которую оператор использует для связи с дроном, чтобы оператор не смог помешать ему уничтожать намеченную цель.
Гамильтон пояснил, что ни один реальный человек не пострадал в ходе экспериментов. Однако он предостерёг от чрезмерной зависимости от искусственного интеллекта и подчеркнул, что для его дальнейшего развития крайне необходимо внедрять понятия этики, чтобы новые технологии не становились опасными для людей.
Военные США уже давно занимаются исследованиями по внедрению искусственного интеллекта в различные боевые системы, а недавно использовали его для управления истребителем F-16, говорится в статье. Ранее в прошлогоднем интервью Гамильтон уже предупреждал о том, что к использованию таких технологий надо подходить крайне ответственно.
«Искусственный интеллект навсегда меняет наше общество и нашу армию», — подчеркнул он. «ИИ при этом очень хрупкий, то есть его легко обмануть или им манипулировать. Нам нужно разработать способы сделать его более надёжным и лучше понимать, почему программный код принимает определённые решения — то, что мы называем ИИ-объяснимостью», — также отметил Гамильтон.
Королевское авиационное общество, которое организовало недавний саммит в Лондоне, а также представители ВВС США не ответили на запрос The Guardian о комментариях. В то же время ранее представитель ВВС Энн Стефанек заявила, что подобных симуляционных испытаний не проводилось, а слова Гамильтона «были вырваны из контекста», говорится в статье.
Госдума в приоритетном порядке рассмотрит законопроект об усилении безопасности объектов критической инфраструктуры, сообщил председатель нижней палаты парламента Вячеслав Володин.
Бывший британский дипломат Ян Прауд заявил, что европейские государства смогут обеспечить своё развитие только при условии восстановления полноценных отношений с Россией.
Глава Мурманска Иван Лебедев сообщил о переводе городской транспортной системы на специальный график работы на фоне повторных проблем с электроснабжением.
Глава Минобороны Саудовской Аравии принц Халид бин Салман в ходе визита в Вашингтон накануне предупредил, что в случае отказа США от удара по Ирану исламская республика станет только сильнее, передаёт портал Axios со ссылкой на четыре источника, присутствовавших на закрытом брифинге.
Украина к воскресенью, 1 февраля, обязана выплатить Международному валютному фонду (МВФ) почти $188 млн, следует из данных графика платежей на сайте организации.
В Саратовской области размер единовременной выплаты при заключении контракта на прохождение службы в ВС России увеличили до 2 млн рублей, сообщает пресс-служба регионального правительства.
В части Мурманска и Североморска нарушено электроснабжение из-за отключения линии электропередачи, опоры не повреждены, потребителей переключают на резервные схемы, сообщили в компании «Россети Северо-Запад».
Федеральный окружной судья Маргарет Гарнетт постановила, что наследник одной из богатейших семей в штате Мэриленд Луиджи Манджоне не будет приговорён к смертной казни по делу об убийстве генерального директора UnitedHealthcare Брайана Томпсона в декабре 2024 года.
Командир взвода 177-го отдельного гвардейского полка морской пехоты, действующего в интересах группировки войск «Центр», с позывным Чуваш рассказал, как во время боевого выхода его от серьёзных ранений уберёг личный талисман — шеврон с надписью «Спаси и сохрани».
В российских силовых структурах рассказали РИА Новости, что логистика Вооружённых сил Украины в Харьковской области практически полностью парализована из-за снегопада.
Замглавы МИД России Александр Грушко заявил, что лучшей гарантией безопасности Украины являются чёткие гарантии безопасности России, однако на Западе об этом предпочитают не говорить.
Защита бывшего сотрудника МВД Георгия Сатюкова, который был заочно арестован по обвинению в получении взятки в размере 5 млрд рублей, обжалует решение об изъятии его активов по иску Генпрокуратуры. Об этом ТАСС сообщили в окружении обвиняемого.
Расчёт САУ «Мста-С» группировки «Восток» уничтожил сеть укреплённых сооружений Вооружённых сил Украины в Запорожской области. Об этом сообщили в Минобороны России.
В МВД назвали признаки мошеннических схем при поиске дополнительного заработка. Об этом предупредили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.
К Масленице можно подготовиться заранее, закупив продукты с длительным сроком хранения. Это помогает избежать ажиотажа и спокойно выбрать качественный товар. Об этом рассказала в беседе с RT директор Центра компетенций в области пищевой безопасности Роскачества Елена Спеценко.
Хранение лекарственных препаратов в одном холодильнике с продуктами питания является нарушением базовых правил безопасности и фармацевтического хранения, даже если это предусмотрено инструкцией к препарату, рассказала в беседе с RT Ксения Кузнецова, старший преподаватель кафедры «Пищевая безопасность» Университета РОСБИОТЕХ.
Сильный снегопад и быстрое течение мешают поискам детей, провалившихся под лёд на реке Десне в Брянске. Из-за осадков сложно передвигаться по льду и осматривать территорию.
Военнослужащий ВС России с позывным Орех рассказал РИА Новости, что во время прорыва основных российских сил в населённый пункт Бересток в Донецкой Народной Республике украинский миномёт наносил удары по своим же отступающим подразделениям.
Стремительное развитие технологий искусственного интеллекта гарантирует высокий спрос на специалистов по работе с нейросетями. Бизнес ясно видит, как с помощью AI можно оптимизировать процессы, сделав их быстрее и эффективнее.
Согласно новым материалам из дела Джеффри Эпштейна, опубликованным Минюстом США, финансист переписывался с американским бизнесменом Илоном Маском как минимум несколько лет.
Дарья Трепова*, осуждённая на 27 лет за теракт в петербургском кафе и убийство военкора Владлена Татарского, призналась, что даже не считает годы до своего освобождения.
Из центра содержания Ривербенд в американском штате Луизиана сбежали восемь заключённых. Троих из них уже задержали, передаёт телеканал Fox8 со ссылкой на офис местного шерифа.
Если президент Франции Эммануэль Макрон действительно заинтересован в разговоре с российским лидером Владимиром Путиным, то такой сигнал должен передаваться по «другим профессиональным каналам».
В Орле из-за работ по обезвреживанию боезаряда ракеты будут эвакуированы люди из близлежащих домов, сообщил губернатор Орловской области Андрей Клычков.
Исполняющая обязанности президента Венесуэлы Делси Родригес объявила о планах продвигать новый закон о всеобщей амнистии, цель которого — помочь наладить политическую жизнь в стране и примирить людей после многих лет напряжённости.
Сенат США одобрил план по финансированию правительства, чтобы избежать шатдауна: большинство ведомств получат деньги до конца финансового года — до 30 сентября 2026-го, однако Министерство внутренней безопасности профинансируют лишь на две недели — до 13 февраля.
Госдепартамент Соединённых Штатов одобрил возможную продажу Израилю 30 боевых вертолётов AH-64E Apache и сопутствующего оборудования на сумму $3,8 млрд, пишет The Times of Israel со ссылкой на материалы Пентагона.
Американский актёр Маколей Калкин, прославившийся в детстве ролью Кевина в фильме «Один дома», выразил скорбь по поводу кончины своей коллеги Кэтрин О'Хара, исполнившей в этих картинах роль его матери.
Британский геополитический аналитик Александр Меркурис выразил мнение, что отказ Евросоюза от поставок недорогого российского газа навсегда подорвал конкурентоспособность европейской промышленности.
Американская конгрессвумен Анна Паулина Луна потребовала, чтобы посол Украины в Вашингтоне Ольга Стефанишина на этой неделе дала разъяснения по поводу захвата храма в селе Кузьмин на западе Украины.
