Те системы искусственного интеллекта, которыми сейчас располагает человечество, являются лишь слабыми предвестниками технологий будущего, заявил профессор философии Оксфордского университета Ник Бостром в своём интервью для N-TV. По мнению Бострома, в скором будущем ИИ будет настолько развит, что превратится в тему геополитических дебатов на высшем уровне.
При этом Бостром отметил, что технологии ИИ могут быть очень опасны. Учёный привёл в пример системы, способные разрабатывать новые виды отравляющих газов. По словам Бострома, правильное обучение ИИ по-прежнему остаётся одним из главных вызовов. Бостром также отметил, что опасность могут представлять и нейросети вроде ChatGPT, поскольку пользователи могут задавать им опасные вопросы (к примеру, «как изготовить бомбу»).
Как отмечает Бостром, в будущем существует перспектива создания ИИ, мыслительные способности которого будут соответствовать и даже превышать человеческие. В этой связи учёный подчёркивает важность привития ИИ базовых человеческих ценностей, чтобы ИИ помогал человеку, а не превратился в угрозу для него.
По мнению Бострома, если продвинутый ИИ будущего выйдет из-под контроля, существование человечества будет поставлено под угрозу. При этом опасности существуют даже в условиях сохранения полного контроля, поскольку столь продвинутые ИИ можно использовать в крайне разрушительных целях — ведения войны, угнетения других людей. Бостром отмечает, что помимо технических проблем в вопросе ИИ есть и политическая проблема: как гарантировать, что все будут использовать ИИ исключительно в положительных, мирных целях?