В беседе с Агентством городских новостей «Москва» Веденеева пояснила, что опасность возникает, если банки и фонды используют модели, обученные на сходных данных, и одинаково реагируют на один сигнал. В такой ситуации рыночный шок, по её словам, может усиливаться лавинообразно.
Веденеева отметила, что ИИ способен снижать риски и издержки на уровне отдельной организации, однако одновременно повышать уязвимость всей финансовой системы. К дополнительным проблемам она отнесла непрозрачность решений, концентрацию технологий у нескольких поставщиков и ответственность за ошибки алгоритмов.
Для снижения этих рисков Веденеева считает необходимыми разные модели, стресс-тестирование ИИ-систем и обязательный человеческий контроль при критических решениях.
Ранее бизнес-эксперт Олег Строкатый рассказал, что сотрудникам важно критически оценивать готовые ответы искусственного интеллекта, поскольку уверенная подача модели может снижать желание дополнительно проверять её рекомендации.