Учёные НТИ создали систему для проверки защищённости ИИ-решений

Учёные Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ разработали решение для проверки устойчивости ИИ-систем к кибератакам. Об этом RT сообщили в Фонде поддержки проектов НТИ.
Учёные НТИ создали систему для проверки защищённости ИИ-решений
  • Gettyimages.ru

Как пояснили эксперты, решение представляет собой веб-сайт для загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование на устойчивость к разным видам атак.

Отмечается, что в результате пользователь получает как оценку возможности системы сохранять работоспособность в условиях внешних воздействий и изменений, так и версию дообученной модели, которая будет более устойчива к атакам.

«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — заметил эксперт центра доцент факультета ВМК МГУ Денис Гамаюнов. 

Решение, разработанное специалистами МГУ, можно применять для любых систем, построенных на основе нейросетевых моделей.

Наиболее полезно оно будет в случае с автопилотами для грузовых автомобилей и поездов, системами идентификации объектов на изображениях и видео, распознавания диктора по голосу и текста из аудиосообщений, так как они наиболее часто подвергаются кибератакам, заметил Гамаюнов. 

Команда уже создала прототип решения и сейчас работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.

Собеседник RT спрогнозировал, что в ближайшие годы рынок средств защиты систем ИИ вырастет в несколько раз.

«Традиционно рынок кибербезопасности растёт вслед за своим клиентом, то есть рынок безопасности ИИ-решений кратно вырастет вслед за ростом числа их внедрений», — заключил он. 

Ранее стало известно, что в России разработали отечественный программно-аппаратный комплекс «Квадросим» для подготовки операторов беспилотных летательных аппаратов (БПЛА) любого уровня.

Ошибка в тексте? Выделите её и нажмите «Ctrl + Enter»
Подписывайтесь на наш канал в Дзен
Сегодня в СМИ
  • Лента новостей
  • Картина дня

Данный сайт использует файлы cookies

Подтвердить