WSJ: мыши на страже правды — с их помощью смогут определять фейк ньюз
Американские учёные выяснили, что мыши способны эффективнее алгоритмов отличать естественный голос от созданного с помощью искусственного интеллекта, сообщает The Wall Street Journal. Такое открытие может помочь в борьбе с «дипфейком», когда изменение звука на оригинальных видеозаписях может спровоцировать скандал или вооружённый конфликт.
Reuters
Мыши помогут отличать фейковые голоса от настоящих — такие выводы представили учёные на конференции по кибербезопасности Black Hat USA, прошедшей на этой неделе в Лос-Анджелесе, пишет The Wall Street Journal. Исследование показало, что животные способны различать элементы естественной речи. Такие результаты могут повлиять на то, как технологические компании выстраивают системы для распознавания обработанных на компьютере голосов, созданных системами искусственного интеллекта.
Как отмечает издание, эксперты обеспокоены ростом числа «дипфейков», которые отбирают сотни фотографий и голосовых записей, изменяя их с помощью искусственного интеллекта. Это делается для того, чтобы приписать людям слова, которых они не говорили, или действия, которых не совершали. Опасения вызваны тем, что эти технологии могут использоваться для влияния на выборы, совершения кибератак на компании, когда мошенник выдаёт себя за руководителей высшего звена, или на частных лиц.
Современные «дипфейки» используют особенности обработки человеческого голоса: часто люди настраивают свой мозг, чтобы нормализовать и сжать звук голоса. Создающие фейки самообучающиеся устройства могут обмануть человеческое ухо звуками, которые напоминают те, которые издаёт человек, хотя они созданы другим способом. По словам Джорджа Уильямса, одного из авторов исследования с мышами и директора отдела аналитики больших данных компании GSI Technology Inc, вовремя вброшенные фейковые записи того, как генеральный директор или политик делает или говорит что-то, что они не делали и не говорили, могут привести к катастрофе: дестабилизировать глобальные финансовые рынки или спровоцировать гражданский или военный конфликт.
Магистр Орегонского университета Джонатан Сондерс, второй автор работы, объяснил The Wall Street Journal, что для разработки более бытового алгоритма выявления «дипфейка» необходимо привлечь фонетику и нейробиологию, которые «показывают, как должен звучать звук и как его анализирует и обрабатывает мозг человека».
Издание рассказывает, что во время опытов исследователи тренировали мышей делать различия между фонемами, например, звуками, которые ассоциируются с буквами P, B и T. Доказано, что фонемы, которых в английском языке больше 40, являются одним из самых трудных аспектов для симуляции, поэтому ранние версии «дипфейка» часто звучали неестественно. Система слуха мышей похожа на слух людей своей способностью узнавать сложные комбинации звуков, и, по предположению учёных, это можно использовать для определения синтезированного голоса. В ходе эксперимента мышей тренировали бежать в одно или другое место в зависимости от услышанного звука и награждали, если они приняли правильное решение. Со временем животные научились различать человеческий и компьютерный голос в 75% случаев. Показатели ухудшались, когда исследователи добавляли такие неожиданные переменные, как новый голос или гласные звуки. Тем не менее мыши могли узнавать новые и трудные звуки, не входящие в натренированную базу.
Как в заключение подчёркивает американская газета, алгоритмы работают строго в рамках тренировочного массива данных, поэтому они уязвимы для технологических усовершенствований или любого контента вне запрограммированного. Мыши, с другой стороны, могут адаптироваться и, как утверждает Сондерс, «учить сложные наборы признаков» и «новые классификационные проблемы».
Подпишись на наш Telegram-канал, чтобы не пропустить лучшие заметки ИноТВ
Сегодня в СМИ
Ссылки по теме
-
Independent: в Японии создадут гибриды людей и животных — ради трансплантации органов
-
Telegraph: британские учёные утверждают, что успехи в обучении обусловлены генами
-
Euronews: крупнейшие концерны Европы уличили в использовании опасных химических веществ
-
CNN: «Роботы идут!» — автоматизация приведёт к повальной безработице в ближайшие 15 лет
