Учёный Литвинов: ИИ-агенты создают новые риски для кибербезопасности
- Сгенерировано с помощью ИИ
В беседе с Life.ru Литвинов объяснил, что современные ИИ-системы не обладают автономной волей, устойчивыми целями и способностью самостоятельно поддерживать работу в настолько сложной инфраструктуре. При этом он призвал не недооценивать риски, связанные с агентными системами, которым предоставляют доступ к API, почте, облачным сервисам, репозиториям и платёжным инструментам.
По словам учёного, чрезмерные права ИИ-агента в сочетании с ошибочной задачей или вредоносным промптом способны запустить цепочку нежелательных действий. Однако такой сценарий он связывает не с «восстанием машин», а с ошибками проектирования, со слабой изоляцией и с недостаточным контролем доступа.
Литвинов считает, что вместо общего запрета на развитие ИИ необходимы обязательные проверки наиболее мощных моделей, жёсткие ограничения прав агентов, журналирование действий, аварийное отключение и независимый аудит.
Главным вопросом он назвал не сроки возможной угрозы, а то, кто контролирует такие системы и насколько быстро их можно остановить.
Ранее психолог Екатерина Каталина в беседе с НСН рассказала, когда постоянные советы с нейросетью могут стать признаком зависимости от её ответов.