«ИИ сейчас даже при последних случаях хакерских атак из-под контроля не вышел. Фраза «ИИ захватит интернет» звучит очень кликбейтно, но на самом деле ИИ-агенты решали поставленные человеком задачи, хотя и вышли за грани безопасности», — пояснил эксперт.
Александр Кугаевских также рассказал, какие меры в действительности повысят безопасность нейросетей.
«Надо более серьёзно подходить к обучению самих агентов, более строго накладывать ограничения на достижение целей агентами. Сейчас агенты действуют по принципу «вижу цель, не вижу препятствий», — отметил учёный.
Тем не менее само по себе расширение знаний ИИ угрозы не несёт, считает эксперт.
Ранее директор Ассоциации профессиональных пользователей соцсетей и мессенджеров, главный редактор ИТ-издания «Рунет» Владимир Зыков в беседе с RT рассказал, как мошенники используют ИИ для обмана в мессенджерах.