Эксперты и руководители отрасли по развитию искусственного интеллекта, в том числе глава Tesla Илон Маск и сооснователь Apple Стив Возняк, призвали по крайней мере на шесть месяцев приостановить разработку систем мощнее нейросети GPT-4, сообщает CNBC. Они предупредили, что современные ИИ-системы становятся конкурентоспособными по отношению к человеку, что может привести к «потере контроля над цивилизацией».
Десятки экспертов и руководителей отрасли по развитию искусственного интеллекта (ИИ) призвали приостановить разработку систем, способных конкурировать с человеческим разумом, сообщает CNBC.
В открытом письме, опубликованном на сайте организации Future of Life, глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Apple Стив Возняк призвали прекратить обучение более мощных моделей, чем нейросеть GPT-4 от американской компании OpenAI.
В письме эксперты отметили, что современные системы искусственного интеллекта становятся конкурентоспособными по отношению к человеку. В связи с этим, по их словам, встаёт вопрос, должно ли человечество «автоматизировать все рабочие места» и развивать «искусственный разум, который в конечном итоге превзойдёт, обойдёт и заменит нас». Лидеры отрасли предупредили, что это может привести к «потере контроля над цивилизацией».
В Future of Life призвали все лаборатории, исследующие искусственный интеллект, «немедленно прекратить хотя бы на шесть месяцев обучение систем мощнее GPT-4». «Если такая приостановка не может быть сделана быстро, правительства должны вмешаться и ввести мораторий», — отмечается в письме.
Как напоминает CNBC, недавно исследователей поразил чат-бот на базе искусственного интеллекта ChatGPT, созданный компанией OpenAI. Языковая модель с искусственным интеллектом к январю этого года всего за два месяца после запуска собрала 100 млн ежемесячных активных пользователей, что делает её самым быстрорастущим потребительским приложением в истории.
Однако специалисты по ИИ-этике выражают обеспокоенность относительно потенциальных злоупотреблений технологией, которые могут способствовать увеличению числа случаев плагиата и дезинформации.
Сам Маск ранее называл искусственный интеллект одним из «самых больших рисков» для цивилизации. В последнее время он неоднократно критиковал OpenAI, из совета директоров которой вышел в 2018 году, за то, что там отклоняются от своей первоначальной цели.