В понедельник в социальных сетях появилось сгенерированное нейросетью изображение взрыва рядом со зданием Пентагона. Как отмечает The Guardian, инцидент стал одним из многих за последнее время, в которых искусственный интеллект использовался для распространения дезинформации.
В Twitter и целом ряде других соцсетей быстро распространилось изображение тёмно-серого шлейфа дыма возле здания Министерства обороны США в округе Арлингтон, штат Вирджиния. В оборонном ведомстве подтвердили, что сообщения о взрыве не соответствуют действительности. Пожарная служба Арлингтона также сообщила, что ей известно о сообщениях в социальных сетях, но угрозы для населения нет. Тем не менее, по данным CNN, широкое распространение изображения, похоже, вызвало кратковременное падение фондового рынка.
Британское издание пишет, что остаётся неясным, откуда появилось изображение, но оно так быстро распространилось в соцсетях в том числе благодаря тому, что его публиковали верифицированные аккаунты, например аккаунт OSINTdefender в Twitter, который делится новостями о международных военных конфликтах более чем с 336 тыс. подписчиков. Владелец страницы извинился за распространение дезинформации и назвал инцидент примером того, «как легко подобные изображения могут быть использованы для манипулирования информационным пространством и насколько это может быть опасно в будущем».
Это изображение — одно из нескольких сгенерированных искусственным интеллектом, которые стали вирусными в последние недели. Среди последних примеров: изображение Папы Римского в модном белом длинном пуховике и чёрно-белый рисунок, выполненный нейросетью, который выиграл приз на Sony World Photography Awards.
Инцидент ещё раз привлёк внимание и к другой проблеме — проблеме верификации в соцсетях, прежде всего в Twitter. С апреля в Twitter пользователи могут платить $8 в месяц за синий значок. После изменений в правилах верификации возросли опасения относительно появления аккаунтов, которые могут выдавать себя за общественных деятелей, правительственных чиновников и новостные сайты.